AI可解释的应用方向有几个？

AI可解释目前的应用方向有以下几个。

1.特征可解释

征可解释是目前最常用的解释方法。这类方法的基础在于模型的输入特征本身是基 于人工经验汇总和提炼的，因此特征本身就具有可解释性。

2.异常检测可解释

异常检测主要采用无监督方式，模型更侧重于挖掘异常样本与正常样本的差异，因此 异常检测的可解释也重点挖掘造成差异的特征，多采用注意力机制+差分学习的算法架构。

3.图可解释

在金融风控业务场景中，基于图方法的黑产识别一直是非常重要的手段。尤其是在金 融风控场景中，用户、商户、设备等通过资金、绑定等关系天然形成一张“图”。基于 这张图，可以实现对黑产实体、行为的识别和推理，这也带来了对识别、推理结果的 可解释诉求。

4.Data2text

在许多业务领域，需要将客户的可疑行为形成文本上报给监管，而依赖人工撰写报文 需要耗费大量的人力，同时依赖机器生成的报文质量难以保证，因此我们结合专家经 验和机器学习来形成可疑描述的参考文本，不仅可以帮助提升人工形成文本的效率， 而且可提高报文的质量。

5.逻辑可解释

基于相似历史判例进行判别，有助于判别的稳定性与解释性。相比单一分数阈值的模 型输出，提供更丰富的、带有聚类性质的历史相似案例知识。若需要历史判例的修 正，可以体现在未来判别。