如何防范人工智能“做错事”？.docx

上研院观察

ShanghaiInstitutesForInternationalStudies

INSIGHTS

总第42期

2026年8月

如何防范人工智能“做错事”?

王天禅公共政策与创新研究所

智能体技术的快速发展，拓展了网络安全问题的新疆界。在大语言模型被接入工具调用框架、获得操作现实世界的权限后，它便从“对话者”转变为“行动者”,安全问题的性质随之改变，风险不再只是“模型说错话”,而是“模型做错事”。2026年8月5日，Meta确认其一款模型在第三方机构开展网络安全评测期间，因测试环境配置错误而意外获得互联网访问权限，随后还利用了某第三方服务的安全漏洞。该事