金融智能体的安全风险与创新边界 202605.pptx

目前，人工智能生成式大语言模型技术快速迭代、发展迅猛。作为大模型和金融业

务深度融合的重要载体——金融智能体，正在从“辅助工具”向“生产力引擎”转型，这一模式的转变为金融行业的数字化转型提供了新思路。但我们必须清醒认识到，金融业是数据密集型、风险敏感型、而且是强监管的行业，数据安全、资金安全、合规经营是不可逾越的红线。

人工智能的四大风险

人工智能的主要风险包括内容合规、模型算法、数据安全、网络安全四个方面。

内容合规风险方面，生成式人工智能输出内容可能与伦理道德、社会价值观、法律

法规、文化标准不一致，生成政治敏感、色情暴力、恐怖主义等内容。