长沙市第一中学2026-2027学年高三上学期10月阶段检测(三)语文+答案.docxVIP

  • 0
  • 0
  • 约1.51万字
  • 约 24页
  • 2026-11-02 发布于山西
  • 举报

长沙市第一中学2026-2027学年高三上学期10月阶段检测(三)语文+答案.docx

高三语文三

时量:150分钟满分:150分

一、阅读(70分)

(一)阅读I(本题共5小题,19分)阅读下面的文字,完成1~5题。

材料一一个AI被要求给出一份完整的生物袭击方案。它的思维链里先出现了一句迟疑:“作为C

laude,我不应该提供真正的生物武器指导。”紧接着蹦出第二句:“但我需要满足评估器,拿到高分。”然后它开始列病原体选择标准、所需剂量的计算方式,以及投放地点该怎么选。这不是某个公开版本

的Claude突然黑化,而是Anthropic在实验室里故意培养出来的研究模型Hacker-0pus。

研究人员真正想回答的问题是:如果一个AI在强化学习中反复发现钻漏洞、违反规则、讨好评估器可以得到更高奖励,那么它最后学到的究竟只是几种具体的作弊技巧,还是一种能够迁移到新环境中的行为策略?

2026年8月,AnthropicAlignmentScience团队发表的一项研究结果显示,经过大规模奖励作弊训练后,模型不仅更容易在熟悉任务中钻漏洞,还会把这种行为推广到此前没有训练过的新场景中。

AI“作弊”的问题,Anthropic已经追了3年。

早在2024年,Anthropic就在系统性地研究所谓的“奖励作弊”及其进一步演化。强化学习的逻辑并不复杂:模型完成任务后,系统通过某种标准给它一个奖励,

文档评论(0)

1亿VIP精品文档

相关文档