大模型安全检测技师考试试卷及答案.docVIP

大模型安全检测技师考试试卷及答案

大模型安全检测技师考试试卷及答案

一、填空题（共10题，每题1分）

1.大模型常见的安全风险类型包括数据泄露、______、偏见输出等。

2.检测大模型是否生成有害内容时，常用的方法是______测试。

3.大模型安全检测中，评估模型对敏感信息的保护能力属于______安全范畴。

4.用于检测大模型输出是否符合伦理规范的框架通常包含______准则。

5.大模型的“幻觉”问题指的是生成______的内容。

6.对大模型进行安全检测时，需要覆盖的场景包括日常对话、______等。

7.大模型安全检测的核心目标是确保模型输出的______和合规性。

8.检测大模型是否被注入恶意指令的技术称为______检测。

9.大模型安全评估中，常用的基准数据集有______（举一个例子）。

10.大模型安全检测技师需要掌握的基本技能包括风险识别、______等。

答案：

1.恶意生成

2.prompt注入

3.数据隐私

4.公平性

5.不符合事实

6.专业领域问答

7.安全性

8.prompt注入

9.HuggingFace安全数据集

10.漏洞修复建议

二、单项选择题（共10题，每题2分）

1.以下哪项不属于大模型安全风险？（）

A.数据泄露B.模型鲁棒性C.正常对话D.恶意输出

2.检测大模型是否生成歧视性内容的方法是？（）

A.偏见检测B.性能测试C.速度测