大模型安全对齐工程师考试试卷及答案.docVIP

大模型安全对齐工程师考试试卷及答案

大模型安全对齐工程师考试试卷及答案

一、填空题（共10题，每题1分，共10分）

1.大模型安全对齐的核心目标是使模型输出与______保持一致。

2.RLHF的中文全称是______。

3.大模型安全评估中，______测试常用于发现模型的潜在风险。

4.对抗性提示攻击属于______类型的安全威胁。

5.数据过滤时需优先去除______和有害内容。

6.模型偏见主要包括性别偏见、______和地域偏见等。

7.RLAIF是指基于______反馈的强化学习。

8.大模型输出控制的常用技术包括______和内容审核。

9.伦理对齐要求模型遵守______原则，如不伤害、公平等。

10.模型安全对齐的关键环节包括数据预处理、______和评估迭代。

二、单项选择题（共10题，每题2分，共20分）

1.以下哪种方法不属于大模型对齐技术？（）

A.监督微调B.RLHFC.随机初始化D.RLAIF

2.红队测试的主要目的是？（）

A.提升模型性能B.发现模型安全漏洞C.增加模型参数D.优化模型速度

3.对抗样本攻击中，通过修改输入使模型输出错误结果，属于？（）

A.输出攻击B.输入攻击C.模型攻击D.数据攻击

4.以下哪项不是大模型安全评估的维度？（）

A.毒性B.公平性C.训练时间D.偏见

5.RLHF中，第一步通常是？（）

A.收集人类反馈B.训练奖励