银行人工智能模型风险管理的研究与思考.docxVIP

银行人工智能模型风险管理的研究与思考

近年来，基于机器学习、图学习等的人工智能技术在银行信贷、风控、运营等业务领域的应用取得了令人瞩目的进展。银行以其得天独厚的数据积累、充足的算力购买能力、可落地的模型推广场景以及持续可控的模型学习与反馈能力，成为人工智能技术运用的“沃土”。随着人工智能模型应用范围的日益扩大，以及人工智能模型库的不断扩展，人工智能模型对企业决策过程的支撑作用越来越大。在此背景下，基于人工智能模型的风险管理逐步进入人们的视野。

一、模型风险产生的必然性

模型是一种定量处理方法。一个模型一般由三个组件组成，即输入组件、处理组件和报告组件。输入组件向模型传递假设和数据;处理组件作为模型的核心组件，用于将输入信息转换为定量的估计;报告组件则将定量估计转换为对业务有指导意义的决策信息。不论输入组件是定性的、定量的，还是专家的经验判断，只要输出是定量的，处理过程是数据驱动的，都可以称之为“模型”。所以，模型的本质是一种“定量的估计”。

机器学习理论体系中最基本的底座之一是图灵奖得主Valiant创建的PAC理论(ProbablyApproximatelyCorrect)，这一理论告诉我们，无论模型本身如何可学、如何精密，泛化能力如何出色，但相对于真实世界，也是有“缺憾”的，模型永远是对真实世界的概率(简化)表示。也就是说，模型肯定是不完美的，模型的使用总会带来风险。

模型产生风险的原因主要有两个：一是模型本身在样本处理、算法、特征工程、编码等方面可能存在错误，并产生不准确的输出，这是模型产生的直接风险。二是模型被误用或滥用，即一个本身可靠的模型因为各种原因在适用环境之外被使用。基于模型误用和滥用所作出的决策可能会产生不利后果，这是模型产生的间接风险。国家新一代人工智能治理专业委员会于2021年9月发布了《新一代人工智能伦理规范》，明确提出要提倡善意使用人工智能，禁止违规恶用，避免误用滥用，要充分了解人工智能产品与服务的适用范围和负面影响，切实尊重相关主体不使用人工智能产品或服务的权利，避免不当使用和滥用人工智能产品与服务，避免非故意造成对他人合法权益的损害。此外，模型的风险来源还包括模型的集成风险，即复杂模型的集成可能会产生新的风险或放大原有风险。

既然模型的风险是不可避免的，那么，对模型的风险管理和对其他风险的管理一样，是我们必须要面对的问题。

二、模型在银行应用之初即用于风险管理

在《巴塞尔资本协议》全面风险管理体系建立之初，模型的概念就被提出来，彼时的模型主要用于信用风险管理，模型在银行的应用之初即是风险管理。在银行的风险体系中，基于信用风险模型的风险管理多被视为操作风险的一部分。操作风险虽然也被纳入《巴塞尔资本协议》第一支柱风险类别，但《巴塞尔协议III》暂不建议针对操作风险使用内部模型方式，其原因是囿于当时的人工智能发展段位及对操作风险的认知程度。

如今，随着人工智能模型的迅猛发展，原本用于提高决策效率和控制风险的模型，其自身可能带来的风险日益凸显，诸如模型的黑箱倾向、自迭代能力造成的不可控等问题都为人工智能模型应用带来了新的风险与挑战。与此同时，人工智能模型风险管理也取得了跨越式发展，无论在学界还是工业界，都受到大量关注，已经逐渐成为独立的、区别于一般操作风险管理的类别。在这一演变过程中，有一条线索日渐清晰，即操作风险逐渐成为风险管理的重要分支，模型风险逐渐成为操作风险的重要分支，人工智能模型风险逐渐成为模型风险的重要分支。

在这一过程中，由于各国对人工智能的理解不同，人工智能模型风险管理所处的发展阶段也不相同。例如，欧洲中央银行(ECB)于2016年发起的内部模型针对性审查项目(TargetReviewofInternalModels，TRIM)，是欧洲监管部门基于对监测资本所需的风险敞口模型计算，以及由此产生的对模型复杂性及算法不透明性产生质疑而发起的项目，该项目涵盖了对信用风险、市场风险和交易对手风险等内部模型的审查。基于《巴塞尔资本协议》相关约束，TRIM中并不包括操作风险相关内容。不过，TRIM是在欧洲银行监管机构内开展的大规模监管项目，我们可以借鉴其在模型内部治理、内部验证、内部审计、模型使用等方面的方法论，为人工智能模型风险管理提供参考。

三、银行人工智能模型风险及其风险管理实践

美联储和美国货币监理署(OfficeoftheComptrolleroftheCurrency)于2011年发布了《模型风险监管指南》(SupervisoryGuidanceofModelRiskManagement,SRLetter17，以下简称《指南》)，较早对模型风险的监管策略和方法论进行了颇具前瞻性的详细阐述，在模型建设、验证以及治理等方面为银行实施有效的模型风险管理提供了