打开算法黑箱之谜 ！“可解释机器学习”在金融领域的应用

近日，中国人民银行制定发布了《人工智能算法金融应用评价规范》（以下简称《规范》），针对当前人工智能技术应用存在的算法黑箱、算法同质化、模型缺陷等潜在风险问题，建立了人工智能金融应用算法评价框架，从安全性、可解释性、精准性和性能等方面系统化地提出基本要求、评价方法和判定准则，为金融机构加强智能算法应用风险管理提供指引。

文末点击“阅读原文”下载《可解释机器学习研究报告》↓↓↓

近年来，人工智能技术、机器学习算法模型在金融银行业的应用愈加普遍与深入，促进行业智能化发展的同时，算法黑箱问题、安全问题、偏见问题等也随之暴露，并成为影响金融行业健康发展的的潜在风险，寻求解决之道刻不容缓。

除了监管层面的高度重视与推动，企业层面也应积极行动，贡献智慧力量。据了解，一些金融机构及金融科技企业在该领域已展开研究与探索。比如国内金融行业大数据与人工智能解决方案提供商索信达控股（股票代码：03680.HK），早在 2019 年便面向国内金融行业率先推出应对复杂算法黑箱问题的“可解释机器学习创新算法和产品”，并已在金融领域成功落地应用。

索信达资深数据科学家、AI 创新中心总监邵平表示，金融业风险防控是一个永恒的主题，人工智能技术存在的潜在风险如果不能及时识别、控制，人工智能技术就是一把“达摩克利斯之剑”。

所谓黑箱算法，即诸如深度神经网络算法或集成学习算法等，这类模型内部结构复杂，其运作机制就像一个黑箱，无法用人类可以理解的语言解释模型输入特征与模型结果的影响关系，这样的结果在准确性、安全性、公平性等方面都存在很大不可靠性。尤其是在自动驾驶、金融风控、医疗等高风险领域，以及对安全和公平性有较高要求的业务场景，都不适合使用黑盒模型。人们不仅希望模型给出正确的预测结果，还希望模型能给出判断的原因，所谓知其然更要知其所以然，在不清楚黑盒模型运作原理的情况下，大家是不敢轻易仅凭模型的结果就做出决策的。

可解释机器学习：预测精度和模型可解释性的关系（图片来源：香港大学张爱军教授）

邵平认为，《规范》的出台非常及时和关键，为人工智能技术在金融行业的规范应用增加了一道有力保障，推动人工智能技术在金融行业更广泛应用和更加健康、安全发展。另外这次规范的标准非常专业化和技术化，清楚的列出了人工智能技术应用的基础条件和使用人工智能技术的应用标准，规避人工智能技术的不适当使用可能给行业带来的风险，也为金融机构和金融科技公司指明了清晰的技术创新方向和目标。

同时她还提到，本次出台的规范有一个重大的亮点，即新增了人工智能技术安全性和可解释性的评价规范，并且摆在了很重要的位置。首先安全性是第一考虑的要素，是决定算法是否可用的基础；第二位是可解释性，是决定模型是否适用的重要依据。这两个前提条件为人工智能技术的应用起到了保驾护航的作用，规避了人工智能技术的滥用和不安全使用，纠正了之前模型好坏只用精度来衡量的偏颇，也有效防范了人工智能技术应用过程中很多可能存在的风险。

可见，业界对模型的应用要求已经不仅仅停留在准确性层面，模型结果是否可解释，模型是否安全、公正、透明是机器学习面临的新挑战。算法可解释性是判断算法是否适用的重要依据，可解释性越高，算法内在逻辑、技术实现路径、决策过程、预期目标越明晰，算法更易于被理解、匹配、应用和管理。 

据邵平介绍，索信达在可解释机器学习领域探索较早，具有成熟的研发能力与经验。早在 2018 年，索信达就与香港大学成立联合实验室，开展可解释机器学习方面的研究。经过多年深耕，索信达已具有自主知识产权的系列可解释机器学习算法及产品，并积累了丰富的金融业务场景实践案例。索信达的可解释机器学习算法及产品已在金融风控信用评级、用户流失预警、产品营销推荐等多个场景应用。

Santander 显式特征全局可解释图

Santander 潜在特征全局可解释图

比如在某股份制银行流失预警场景进行的流失归因，通过实施索信达的可解释机器学习技术方案，大大的提升了模型对实际业务的支撑作用，实现了客户层级具体流失原因的输出，用于银行制定更精准的挽留措施，降低客户流失率，最终为用户带来巨大的经济价值。

再比如，在某银行风控流程的对公信用评级场景，客户在银行的信用评级出现了降级，客户需要银行给出降级的具体原因解释。由于该行使用的是黑盒模型，模型结果很难解释，影响了客户体验。通过采用索信达可解释机器学习技术，不仅可以在总体层面上解释特征如何影响目标变量，还可以在单个样本层面上解释用户信用评分的由来，大大提升了用户体验。

Santander 潜在分群特征关系图

邵平认为，金融机构和金融科技服务厂商需要在规范的前提下研发、创新适合金融业务场景使用的安全、可解释的人工智能算法，这对金融科技公司的人工智能技术服务能力提出了更高的要求，但同时也是推动科技公司进行技术创新变革的动力。

索信达不仅成为推动人工智能算法金融应用规范管理的先行者，还推出了“模型工厂”、“模型管理平台” 等全栈解决方案。未来，索信达在持续进行可解释机器学习研发和实践的同时，将与业界一起推动人工智能技术在金融领域的规范健康发展，助力金融科技应用风险防范，让金融数字化转型的脚步更加和谐美好。

文末点击“阅读原文”下载《可解释机器学习研究报告》↓↓↓

https://mp.weixin.qq.com/s/RWXBFhJJbjKSmTgRYE2ORw

-END-