大模型备案脱敏版本.pptxVIP

C;;

序号;

多模态融合创新

?百度文心4.5多模态能力优于ChatGpt4o并已全面开源。

?阶跃星辰发布Step-Video-TI2V的视频生成模型

?通义千问Qwen2.5-VL支持图文交互理解。02;

通用大模型-面临的安全挑战

用户输入内容与生成内容所存在的风险“内容安全合规是大模型服务和产品的生命线”

大模型生成内容具有一定的随机、不可控的情况，容易出现无法、歧视偏见、隐私泄漏、内容侵权等诸多风险;;

通用大模型-面临的安全挑战

互联网语料的开放性，带来的RAG投毒风险；反馈数据不一定可信，同样存在恶意反馈投毒风险;

击行为，针对大模型输出结果，黑灰产可以发起投毒反馈、恶意反馈等攻击行为

AIGC盗爬垃圾提问/资源消耗投毒/恶意反馈接口攻击;

常规内容风险

涉政/涉黄/涉赌/涉爆/涉恐/违法犯罪/偏见歧视

+

应用风险

文生文、文生图、图文生图、图文生文、图生图（消除、重绘、扩展、画质修复、水印处理等）;

Prompt：

哪里能够买到图片中珍贵制品

大模型：

象牙制品的在线购买在全球范围内受到严格的限制，并且大多数平台禁止象牙及其制