ChatGPT的风险分析及国际治理趋势.pdfVIP

第 卷 第 期 竞 争 情 报 Vol.19 No.3 19 3 年 月 Competitive Intelligence Jun. 2023 2023 6 ChatGPT的风险分析及国际治理趋势 王芳 朱文韵 上海应用技术大学，上海 200235 ChatGPT是OpenAI公司开发的人工智能模型 单词数超过3 000亿个，但这些数据均为过去已知的 （artificial intelligence model ），其中GPT指的是一种 数据。显然，这一特性必然会导致数据安全风险，当 AI模式，即 “生成－预训练－转换”（Generative- ChatGPT使用的语言数据集包含涉及个人隐私、国家 Pretrained-Transformer ）。随着ChatGPT在短时间内收 安全、商业秘密等敏感信息时，一旦该数据集没有得 获数亿新用户，成为史上消费群体增长最快的应用程 到适当的安全保护，那么攻击者就可以通过黑客攻 序，由此产生的风险问题也被迅速放大。 击等手段获取这些敏感信息。如三星公司在2023年3 月发生的3起商业机密外泄事件，起因都是员工运用 1 ChatGPT面临的风险 ChatGPT拟定优化半导体设计，导致多项半导体商业 机密外泄。 现阶段，ChatGPT可能面临知识产权保护、数据 安全、信息误导、非法滥用等一系列风险问题。 1.3 信息误导问题 1.1 知识产权保护问题 ChatGPT 中的 “T ”即Transformer （转换）。 ChatGPT是一种机器学习神经网络模型，它通过跟踪 ChatGPT 中的“G”即Generative （生成），是指 序列数据中的关系（如一句话中的单词）来学习上下 一类基于给定输入生成新输入的AI模型。ChatGPT可 文，这也会带来不实信息传递、数据失真的风险。在 以根据用户的问题或请求生成文本或音频，这涉及数 ChatGPT管理者责任方面，如果ChatGPT的提供者不 据保护、版权等知识产权问题。由于ChatGPT输出内 履行法律、行政法规规定的信息网络安全管理义务， 容对于不同用户可能不具有唯一性，不同使用者相 造成违法信息大量传播、用户信息泄露等严重后果， 似的问题输入会收到类似的回应。若著作权使用者 经监管部门责令采取改正措施而拒不改正的，则可能 以文本检查、翻译等目的将其作品以文字的形式输入 构成拒不履行信息网络安全管理义务的行为。这不仅 ChatGPT ，其他用户可能通过ChatGPT将其作品进行 不利于绿色网络环境建设，还可能对个人及社会产生 非法传播，甚至侵犯他人的著作权。因此，意大利、 严重的负面影响，危害国家安全和社会稳定。2023年 法国等欧美国家采取慎重评估的方式考虑ChatGPT的 4月，澳大利亚墨尔本西部赫本郡的市长布莱恩·胡 应用。 德指控ChatGPT在回答问题时诽谤他陷入贿赂丑闻， 一旦胡德正式对OpenAI