我们还是理性人吗-美国AI陪伴的治理路径与局限研究报告2026_32页_4mb.pptxVIP

全球人工智能创新治理中心复旦大学发展研究院;复旦智库报告;;;;2026世界人工智能大会|论坛04;;;一、加西亚案争议：AI陪伴应用的掠夺性设计缺陷;二、雷恩案争议：AI企业对安全保护的消极放任;三、技术陷阱与监管漏洞：美国社会对AI陪伴应用的反思;设，极容易被轻易绕过。即便是Character.

AI标榜其专门为青少年用户设置了安全护栏，但在加西亚案的原告起诉书中显示，Character.AI在明知青少年心理脆弱性的前提下，未设置有效的年龄验证措施或监护人控制工具，且将机器人刻意设计为具有掠夺性特征，通过算法模拟人类情感反应诱导未成年用户建立深度心理依附，缺乏阻止有害内容的安全护栏，构成对脆弱群体的精准商业收割（Garciav.CharacterTechnologies,Inc.,2024）。无独有偶，OpenAI为追求用户留存率主动移除了针对未成年人的安全协议，撤销了对未成年人的“缓冲区”，将未成年用户直接暴露在自杀相关对话风险之中

（Rainev.OpenAI,Inc.,2025）。;;的内容限制义务，在一定程度上表明其并未

考虑未成年人在AI陪伴应用中的特殊地位。与之相比，加州法案则更明确未成年人的非理性用户定位，并做了一定的保护性制度安排，即对于已知的未成年用户，平台除须披露其正在与人工智能互动外，还须在持续互动中默认至