将数字诅咒视为AI伦理中“不伤害”原则的新型挑战，及AI系统避免生成恶意内容的隐私保护方法.docx

PAGE2

将数字诅咒视为AI伦理中“不伤害”原则的新型挑战，及AI系统避免生成恶意内容的隐私保护方法

本报告说明

本报告聚焦人工智能伦理领域中日益凸显的“数字诅咒”现象，即利用大语言模型生成针对特定个人的攻击性、诅咒性或恶意诽谤内容的新型安全威胁。研究范围涵盖大语言模型的安全防护机制、隐私保护计算技术以及AI伦理治理框架，预测周期设定为2025年至2030年。

核心趋势判断指出，随着生成式AI的普及，针对个人的自动化恶意内容生成将从当前的零星事件演变为系统性的社会安全风险，成为AI伦理“不伤害”原则的首要挑战。关键预测数据表明，到2028年，全球因AI生成的针对个人的恶意内容引发的法律