金融领域AI大模型和AGENT实践解决方案（22页 PPT）.pptxVIP

杨强

微众银行首席人工智能官（CAIO）

加拿大工程院与皇家学院院士

杨强202307;;

2.通用大模型不具备专业知识

通用大模型如直接用于各行各业，模型表现得专业知识不足，并不能满足业务要求；

需要利用本地数据训练垂类行业大模型，大幅度提升模型性能;

AIAgent如何解决通用大模型短板

知识库检索增强生（RAG）

办法：

1.收集整理垂类相关的领域数据/企业数据/专业数据；

2.构建垂直行业领域的知识库。

效果：

1.知识库反馈的信息，保证事实正确，避免了幻觉；

2.实时查询，避免了信息滞后。;

大模型微调（Finetune)

方案：

1.收集整理垂类相关的领域数据/企业数据/专业数据；

2.利用这些数据修正（微调）大模型；

效果：

1.微调后的大模型，更理解垂类应用要求，性能更优；

2.微调后的大模型，事实性更准确，避免了幻觉。;

大模型微调(思维链CoT)

方案：

1.微调数据中包括领域知识及解题步骤（思维链）；

2.利用这些数据修正（微调）大模型；

效果：

1.微调后的大模型，更理解垂类应用要求，性能更优；

2.微调后的大模型，事实性更准确，避免了幻觉。;

联邦大模型

方案：

1.构建联邦大模型新范式，解决数据稀缺/标注不足问题；

2.利用联邦学习技术，在保护数据隐私的前提下，合规合法地利用手机、汽车等终端设备上的私域数据；

效果：

1.联邦大模型，整体性能更优；

2.联邦大模型，有效保护了私域数据的隐私和机密。

3.本地的联邦模型，无需高性能计算资源，降低了使用门槛，提升了能源效率。;;

AIAgent的特点

?基于大模型的通用能力

?结合领域知识，适应不同的场景需求

AIAgent与大模型的关系

?大模型只是一种通用能力

?AIAgent是在大模型通用能力上定制化的落地解决方案，和业务???接对接;;;;

应用层以平台层为支撑基础的各种产品应用

平台层以We大模型为代表的AI技术服务平台（生态）

认知层大模型NLU知识图谱用户画像

感知层语音图像视频AR/VR

基础层大数据算法算力;;;;

领衔联邦学习相关研究与应用

FATE：联邦学习开源框架热度全球第二;

发布全球第一个联邦学习国际标准，2021.3

IEEEP3652.1《IEEEGuideforArchitecturalFrameworkandApplicationofFederatedMachineLearning》

发布可解释人工智能国际标准，2024.3

IEEEP2894《GuideforanArchitecturalFrameworkforExplainableArtificialIntelligence》

制定中的国际标准（2024）：

?聚焦联邦学习的可信赖、可解释、可优化、可监管的可信联邦学习标准IEEEP3187《GuideforFrameworkforTrustworthyFederated

MachineL