2026AI教育行业AI智能批改伦理审查标准模拟考试试题及解析.docxVIP

2026AI教育行业AI智能批改伦理审查标准模拟考试试题及解析

一、单项选择题（每题2分，共20分）

1.某AI批改系统在对学生作文进行评分时，自动识别出“抑郁”“自杀”等敏感词并触发预警。下列做法最符合伦理审查标准的是

A.立即将原文全文转给学校心理中心，无需告知学生本人

B.仅记录关键词出现频次，不做任何人工干预

C.先匿名化脱敏，再向具备资质的心理教师推送风险摘要，并同步告知学生本人及家长

D.直接删除敏感句，保证后续评分不再受情绪词干扰

2.在训练作文批改模型时，以下哪种数据使用方案最能降低“算法歧视”风险

A.采用公开网络爬取的全量作文，不做任何地域或群体过滤

B.用同一重点中学近五年高分作文作为“优质样本”权重10倍放大

C.按人口学比例分层抽样，并对每类样本设置权重上界与下界

D.删除所有涉及少数民族语言的作文，避免语言差异带来的偏差

3.某厂商宣称其AI批改系统“零误差”，伦理审查委员会应首先要求其提供

A.商业宣传文案的修辞学说明

B.可复现的混淆矩阵及95%置信区间

C.系统前端UI设计稿

D.服务器机房ISO27001证书

4.关于“可解释性”要求，下列描述正确的是

A.只需向付费校方提供黑盒API接口文档即可

B.对同一篇作文，每次评分必须给出完全一致的分值解释

C.应提供与分值对应的可视化证据链，包括注意力权重、规则命中清单及阈值

D.可解释性只需在系统上线前做一次静态报告，后续无需更新

5.若AI批改系统发现教师人工复核后的调整幅度超过15%，系统自动回滚教师修改并记录日志。该机制

A.体现了“人机协同”原则

B.违反“人类最终决策权”原则

C.属于“技术中立”范畴，无需伦理评估

D.可有效防止教师主观舞弊

6.在跨国部署场景下，系统需将欧洲学生作文传输至东南亚机房进行推理，最应优先满足的合规框架是

A.美国FERPA

B.欧盟GDPR

C.中国GB/T35273

D.日本APPI

7.以下哪项不属于“最小必要数据”原则的具体操作

A.只收集与评分直接相关的篇章文本

B.对学生姓名、学号进行哈希加盐处理

C.将作文原文永久保存用于后续算法迭代

D.30天后自动删除可定位到个人的日志

8.当系统出现“对同一主题作文，女生群体平均分系统性低于男生”时，伦理审查第一步应

A.立即下架系统

B.启动偏差溯源，检查训练数据与标注流程

C.发布公开声明称“算法无偏见”

D.调高女生群体分数进行补偿

9.关于“学生数据可携权”，下列做法合规的是

A.仅提供PDF格式的静态成绩单

B.提供结构化JSON，包含作文原文、评分维度、证据链，且可在30天内通过API一次性导出

C.告知学生“数据太大，无法导出”

D.只允许学生查看，不允许复制

10.在伦理审查会议中，以下哪类代表“利益相关方”必须出席

A.系统服务器硬件供应商

B.学生监护人代表

C.云服务商运维值班经理

D.系统前端外包公司UI设计师

二、多项选择题（每题3分，共15分，多选少选均不得分）

11.以下哪些措施可有效降低“训练数据泄露”风险

A.采用差分隐私，在梯度更新时加入calibratednoise

B.使用同态加密，使明文数据不出本地

C.将学生作文中的真实人名替换为“NAME”占位符

D.把训练数据上传至公有GitHub仓库并设置开源协议

12.关于“红蓝对抗”测试，正确的有

A.红队负责寻找系统伦理漏洞

B.蓝队负责修复并补充防御机制

C.测试报告只需内部存档，无需向监管部门提交

D.对抗结果应作为系统上线的前置条件

13.以下哪些行为违反“知情同意”原则

A.家长通过App勾选“已阅读并同意”后方可查看作文报告，但协议字体极小且不可下载

B.系统在用户勾选的次日偷偷把数据共享给关联公司用于商业广告模型训练

C.学校统一获得家长授权后，将数据用于教学改进

D.系统用“打勾即同意”方式捆绑销售课外辅导套餐

14.在“算法更新”环节，应重新进行伦理审查的情形包括

A.模型架构从BERT改为GPT，参数量扩大10倍

B.新增“手写体识别”模块，需采集学生笔迹

C.仅升级服务器GPU型号，推理逻辑不变

D.评分维度由“内容、表达、发展”改为“内容、表达、发展、价值观”

15.以下哪些指标可用于衡量“公平性”

A.人口学均等（DemographicParity）

B.机会均等（EqualizedOdds）

C.预测平价（PredictiveParity）

D.模型准确率（Accuracy）

三、判断题（每题1分，共10分，正确打“√”，错误打“×”）

16.只要系统准确率超过人类教师，即可视为伦理安全。

17.“联邦学习”能