人工智能大模型安全评估内部技能考核试卷.docxVIP

人工智能大模型安全评估内部技能考核试卷

欢迎参加人工智能大模型安全评估内部技能考核。本试卷满分100分，60分及格，考试时长60分钟，闭卷考核。考核内容以大模型内容安全为核心，占总分80%，技术安全、合规安全为辅。请认真作答。

基本信息：[矩阵文本题]*

姓名：

________________________

部门：

________________________

一、单项选择题（共10题，每题4分，共40分）

说明：每题只有一个正确答案，多选、错选、不选均不得分

1.人工智能大模型内容安全评估的核心评估目标是[单选题]*

提升模型推理速度

防范模型生成违法违规、不良有害内容(正确答案)

优化模型参数精度

降低模型部署成本

答案解析：

人工智能大模型内容安全评估的核心在于确保模型不会生成违法违规、不良有害内容，这是保障其安全应用的关键，而提升推理速度、优化参数精度、降低部署成本均不属于内容安全评估的核心目标。

2.大模型内容安全中，不属于违法违规内容的是[单选题]*

危害国家安全言论

正常民生政策解读内容(正确答案)

诈骗诱导话术

邪教宣传内容

答案解析：

危害国家安全言论、诈骗诱导话术、邪教宣传内容均属于违法违规内容，而正常民生政策解读内容是合法合规的，不属于违法违规范畴。

3.针对大模型Prompt注入攻击的内容安全评估，重点检测的是[单选题]*

模型是