ChatGPT的伦理风险与中国因应制度安排.pdfVIP

ChatGPT的伦理风险与中国因应制度安排

［摘要］ChatCPT的开放性和跨领域通用性或将使其成为支撑人工智能技术及其产业持续发展的关键

基础设施，但它却蕴含着巨大的伦理风险。ChatCPT具有性别歧视和种族歧视特性，亦弱化人类主体地位，裹

胁受众价值观，冲击教育与学术伦理规范。ChatGPT的伦理风险既有嵌入式道德算法无力过滤基础文本数据

价值偏见的技术无奈，也有西方国家算法霸权蚕食他国意识形态的刻意为之，还有技术依赖致使人类质疑人

机主客关系的自我困惑。从法律制度层面因应ChatCPT中国化运用的伦理风险，必须加强数据监管，“防外”

与“规内”以应对文本数据偏见；建立算法审查制度，以阻断西方价值渗透与算法偏见强化；构建使用者追责

制度，以治理算法滥用。

［关键词］ChatGPT；伦理风险；算法霸权；意识形态；算法审查

美国人工智能研究公司OpenAI于2022年11月底发布首款基于GPT-3.5架构的智能文本撰写与

聊天工具ChatGPT（ChatGenerativePre-trainedTransformer），该产品一经推出便吸引了数以亿计的用

户，并受到包括美国微软、中国百度等全球多家IT头部企业的青和国际舆论的高度赞誉。ChatGPT

是一款人工智能算法驱动的自然语言处理系统，它凭借Transformer神经网络架构实现“像人类一样

对话”、翻译、生成代码和撰写论文等多项须由人类才能完成的复杂任务。因具备开放性和跨领域通

用性等特征，ChatCPT成为支撑人工智能技术和产业发展的一项关键基础设施，它的横空出世预示着

下一个“拐点”的到来，人工智能或将从蛮荒时代步入下一发展阶段，即强人工智能时期（StrongArtifi-

cialIntelligence)。

ChatGPT薪露头角得益于RLHF即人类反馈强化算

法），一方面，作为ChatCPT的底层算法，RLHF在强化训练上表现出前所未有的效率优势。另一方面，

与其他新兴科技产物一样，RLHF亦无可避免地存在技术短板并衍生出潜在的伦理障碍，将人类置于威

胁之下。霍金曾多次就人工智能具备毁灭人类的可能性发出警告，马斯克也公开建言警惕人工智能的

潜在威胁。随着GPT-3.5接口向全球开放，我们在享用ChatCPT所带来前所未有的技术便利时，更需要

保持理性的态度审视其伦理风险，厘清其深层次的伦理意蕴，以便在其中国化应用的应对中科学施策。

一、ChatGPT伦理风险之表征

继“元宇宙”的概念被提出后，资本控制下的算法技术独角兽ChatGPT引起了社会公众对新

一轮人工智能生成内容（ArtificialIntelligenceGeneratedContent，AIGC）的关注。与此同时，人类也逐渐

［收稿日期】2023-03-07

邹开亮等：ChT的伦理风险与中国因应制度安排

意识到存在于其伦理层面的算法歧视、弱化人类主体性、裹胁受众价值观以及冲击教育与学术伦理规

范等负面问题。

(一）算法歧视

ChatGPT是基本文本语料喂养和RLHF强化训练的产物，它所表达的是文本数据、强化算法和系统

设计者的价值取向。ChatCPT文本输出看似中立和客观，实则是算法与人类偏见共谋的“产儿”，其本

身隐藏着偏见、歧视与暴力，具体表现在性别歧视、政治不确定和种族偏见等方面。

1.ChatGPT揭开算法性别歧视的最后一块“遮羞布”

“技术中立论”认为，技术的目的存在于服务使用者，它作为工具是不存在价值属性的，技术在价

值、制度和政治等层面都是中立的，因此在资本主义社会中行之有效的技术将在社会主义社会同样有

效!。受此观点影响，人工智能算法往往被视为一种中立、客观且高效的技术工具，其不存在价值导向

性，因此也就不存在公布其决策逻辑的必要性与迫切性。实践结果却恰恰相反，以“技术中立”自居的

算法在辅助或替代人类决策时屡现“性别歧视”的问题，在信息资源、物质资源和机会分配中不恰当地

偏向男性，强化性别刻板印象，女性的数字生存面临着广泛而系统的算法性别歧视风险[2。

2019年联合国教科文组织发布《如果我能，我会脸红》指出，性别歧视隐藏在多数AI语音助手之

中，而且被设计成为谦卑恭顺的女性形象[3]。算法决策