- 0
- 0
- 约3.18千字
- 约 5页
- 2026-11-21 发布于山东
- 举报
大模型对齐工程师助理岗位技能考试试卷及答案
1.大模型对齐的核心目标是让模型输出符合____期望的结果。
2.常见的大模型对齐方法包括RLHF、RLAIF和____。
3.人类反馈强化学习的英文缩写是____。
4.对齐评估中,用来衡量模型输出与人类偏好匹配度的指标常称为____。
5.大模型对齐中,避免模型产生有害输出的约束训练属于____对齐。
6.对齐工程师助理需掌握的基础标注工具常用的有LabelStudio和____。
7.人工偏好标注的核心是区分模型输出的____与不符合要求的部分。
8.RLHF流程中,奖励模型的训练依赖于____提供的标注数据。
9.大模型对齐中,对抗性测试主要检验模型在____场景下的鲁棒性。
10.为提升对齐效率,部分对齐方法会引入合成____辅助训练。
答案:1.人类价值2.DPO3.RLHF4.偏好得分5.安全6.Brat7.符合要求8.人类标注9.对抗10.偏好数据
1.以下不属于大模型对齐常用方法的是()
A.RLHFB.DPOC.TransformerD.RLAIF
2.RLHF中,第一阶段的训练任务是()
A.训练奖励模型B.预训练语言模型C.微调监督模型D.生成对抗样本
3.对齐评估指标中,针对有害输出的检测指标是()
A.BLEUB.RougeC.ToxicityD.Perplexity
4.以下属于人工偏好标注类型的是()
A.
原创力文档

文档评论(0)