大模型对齐工程师助理岗位技能考试试卷及答案.docVIP

  • 0
  • 0
  • 约3.18千字
  • 约 5页
  • 2026-11-21 发布于山东
  • 举报

大模型对齐工程师助理岗位技能考试试卷及答案.doc

大模型对齐工程师助理岗位技能考试试卷及答案

1.大模型对齐的核心目标是让模型输出符合____期望的结果。

2.常见的大模型对齐方法包括RLHF、RLAIF和____。

3.人类反馈强化学习的英文缩写是____。

4.对齐评估中,用来衡量模型输出与人类偏好匹配度的指标常称为____。

5.大模型对齐中,避免模型产生有害输出的约束训练属于____对齐。

6.对齐工程师助理需掌握的基础标注工具常用的有LabelStudio和____。

7.人工偏好标注的核心是区分模型输出的____与不符合要求的部分。

8.RLHF流程中,奖励模型的训练依赖于____提供的标注数据。

9.大模型对齐中,对抗性测试主要检验模型在____场景下的鲁棒性。

10.为提升对齐效率,部分对齐方法会引入合成____辅助训练。

答案:1.人类价值2.DPO3.RLHF4.偏好得分5.安全6.Brat7.符合要求8.人类标注9.对抗10.偏好数据

1.以下不属于大模型对齐常用方法的是()

A.RLHFB.DPOC.TransformerD.RLAIF

2.RLHF中,第一阶段的训练任务是()

A.训练奖励模型B.预训练语言模型C.微调监督模型D.生成对抗样本

3.对齐评估指标中,针对有害输出的检测指标是()

A.BLEUB.RougeC.ToxicityD.Perplexity

4.以下属于人工偏好标注类型的是()

A.

文档评论(0)

1亿VIP精品文档

相关文档