行业大模型落地的挑战和实践-拓尔思副总裁林松涛.pdfVIP

行业大模型落地的挑战与实践

林松涛拓尔思|副总裁

行业大模型落地的五大挑战

Ø内容合规可信

Ø模型安全可控

Ø训练数据质量

Ø业务深度融合

Ø项目成本收益

1、大模型生成内容的合规可信问题

请输入您的章节标题

0102

大模型生成内容的合规问题大模型幻觉的可信度问题

一本正经的胡说八道，从大模型的生成原

大模型生成内容受西方价值观浸染理看，是不可能完全避免的

行业知识问答中，时间、地点、人物、事

件等事实性要素可能被篡改生成

大模型的训练数据内容是个黑盒

行业应用中，大模型生成内容的知识记忆

能力欠缺

人机伦理风险

行业应用中，大模型引据内容不可溯源、

不可求证，可信度欠缺

2、大模型存在的安全问题

请输入您的章节标题

企业私域数据上公有云训练可能导致

数据数据泄漏。

安全

模型窃取以及各种攻击（如对抗攻击、

后门攻击、prompt攻击、数据投毒等）模型隐私

诱导大模型输出结果不可控，例如生成

虚假新闻、网络钓鱼、欺诈或者用于操安全安全

纵社交媒体或舆论，从而引发严重后果。

大模型在数据采集方面、模型结构方

面、模型应用方面均存在大量用户隐

私信息泄漏与扩散的风险。

3、训练数据集黑箱存在的“三不”问题

请输入您的章节标题

数据决定了大模型的智力边界知识更新的实时性不够

高质量的训练数据获取不易

大模型训练新数据的周期较长

宗教信仰偏见种族偏见

偏见信息大模型训练新数据的成本较高

政治偏见性别偏见

……

大模型的数据更新存在滞后性

恐怖主义信息色情信息

有害信息

极端主义信息暴力信息

……

著作权商标专用权领域