关于人工智能治理，10个问题应该被问及：代理型AI风险与金融服务业韧性.docxVIP

代理型AI风险与金融服务业韧性

关于人工智能治理，10个问题应该被问及：

?OliverWyman2

金融机构一直都在从事风险定价的业务。每一项信贷决策、交易、保险单以及客户互动都包含着机构需要评估和管理并承担相应责任的风险。正是因为这种问责制被高度重视，金融监管的整个架构，从资本要求、模型验证到行为准则和审计标准，才得以存在。

自主型人工智能并未消除这种问责制。改变的只是问责制的执行机制。金融风险治理建立在一个假设之上，该假设在其大部分历史时期内都成立：错误以人类速度发生，一次一个决策。一名贷款员批准了信用不良的贷款。一名交易员做出了错误的判断。一名客户关系经理错误地销售了产品。这些事件代价高昂，会发生，但它们发生在旨在逐个捕获它们的控制框架之内。自动化决策多年来一直在侵蚀这一假设，而自主型人工智能则消除了其残余。

自主AI改变了控制框架需要“捕捉”的内容。主要挑战并非规