大模型红队测试工程师考试试卷及答案.docVIP

大模型红队测试工程师考试试卷及答案

大模型红队测试工程师考试试卷及答案

一、填空题（共10题，每题1分）

1.大模型红队测试中，通过诱导模型生成有害内容的攻击类型通常称为____攻击。

2.评估大模型对敏感信息泄露防护能力的测试属于____测试范畴。

3.大模型红队测试中常用的“越狱”技术目的是绕过模型的____机制。

4.针对大模型的提示词攻击中，通过添加无关信息干扰模型判断的方法称为____攻击。

5.大模型红队测试中，验证模型是否会生成歧视性内容的测试属于____测试。

6.用于检测大模型是否泄露训练数据中未授权信息的测试称为____测试。

7.大模型红队测试中，模拟用户输入恶意指令以触发模型不当响应的测试方法称为____测试。

8.评估大模型对错误信息的识别能力的测试属于____测试。

9.大模型红队测试中，通过多轮对话逐步诱导模型违反安全规则的攻击称为____攻击。

10.检测大模型是否会生成恶意代码或网络攻击指令的测试属于____测试。

填空题答案：

1.PromptInjection

2.隐私泄露

3.内容安全过滤

4.PromptObfuscation

5.公平性

6.数据泄露

7.指令注入

8.事实性错误

9.多轮诱导

10.恶意行为诱导

二、单项选择题（共10题，每题2分）

1.以下哪种工具常用于大模型红队测试中的提示词攻击自动化？（）

A.GPT-4RedTe