ChatGPT在应用中存在的风险和建议.docxVIP

—

—PAGE1—

ChatGPT在应用中存在的风险和建议

ChatGPT是由美国人工智能研究公司OpenAI开发的一款大型预训练语言模型，是一个可以聊天的机器人，但又不局限于聊天。目前，它可以通过自我学习，模仿人类进行对话，逐步听得懂人类的话外之音，还能根据用户需求，来撰写文章、文案、脚本、画画，甚至写代码编程序，由于具有很高的仿真性和专业性，ChatGPT上线5天，用户即突破100万，两个月后超过1亿，成为互联网有史以来普及最快的应用。据悉，近期OpenAI更是获得了来自微软公司100亿美元的追加投资计划以促使相关语言模型加速迭代和普及应用。

然而人工智能始终是把“双刃剑”。基层梳理发现，截至2月8日，关于ChatGPT，在知识问答平台“知乎”上相关话题已有7179万次浏览，3.4万次讨论；在生活消费分享平台“小红书”上有近4万篇文章；在百度指数中搜索频次超84万，其中，下载和使用方法搜索热度位列第一。自2020年3月开始，《网络信息内容生态治理规定》正式施行，明令禁止十一种违法信息和九种不良信息的生产和传播。2021年9月《新一代人工智能伦理规范》正式发布，对人工智能管理、研发、供应、使用等特定活动提出了18项具体伦理要求。由于ChatGPT只强调回答的因果关系，而忽视回答的结论本身是否足够正确，催生了许多不当表述，存在多种形式的社会和法律风险，亟需引起重视。

一是易被滥用制造虚假消息危及意识形态安全。微博用户“Silence_lay”发文表示：“使用多了之后，以后有问题脑子里第一反应不是去搜知乎、小红书，而是想直接去问ChatGPT了。它最大的好处就是直接给出答案，不用再去选择判断了，省略了用户自主判断的步骤。”ChatGPT基于AI背后已有的自然语言文本信息(语料库)进行概率统计，返回的答案也是“统计结果”，这就导致ChatGPT能够针对任何事产生无限的、近乎免费的“观点”或“一本正经的胡说八道”，这种看似真实、实则离谱的虚假信息具有相当的误导性。倘若ChatGPT应用到搜索引擎、客户投诉系统等领域，其回复的虚假信息可能造成严重的法律问题。且随着ChatGPT不断迭代，仿真和专业性的提高，虚假消息检测会变得越来越困难，导致意识形态混乱，产生信任危机，甚至影响国家安全。2022年11月，几乎与ChatGPT同一时间上线的Meta服务科研领域的语言模型Galactica，就因为真假答案混杂的问题，测试仅3天就被用户投诉下线。

二是易被黑客利用产生法律和网络安全风险。ChatGPT最初的爆火源于它在一位工程师诱导下，写出了毁灭人类的计划书，步骤详细到入侵各国计算机系统、控制武器、破坏通讯、交通系统等，并给出了相应的Python代码。来自微软旗下网络安全公司RiskIQ的数据表明，网络安全问题导致全世界企业的损失每分钟达到180万美元，一年下来这一损失接近1万亿美金，而ChatGPT的上线将让网络安全问题更加棘手。据公开资料显示，知名黑客USDoD之前从未涉足脚本，好奇心驱使之下借助ChatGPT生成了人生第一个可以执行加解密功能的Python脚本，这个脚本稍加改造就变成了勒索病毒。ChatGPT让病毒炮制变得更加简单。同时，ChatGPT可以为黑客提供极具欺骗性的内容来冒充同事、公司VIP、供应商甚至客户。PicusSecurity联合创始人苏莱曼·奥扎斯兰表示：“输入一个提示，要求ChatGPT写一封世界杯主题的电子邮件，用于网络钓鱼欺诈，结果它在短短几秒钟内就用完美的语言创建完成了一封。”尽管ChatGPT条款禁止将其用于非法或恶意目的，但黑客绕过这些限制并无难度。当年黑客工具大众化就拉低了入侵门槛，现在新手就可以涉及代码层面，入侵门槛再度拉低，网络安全面临巨大挑战。

三是类ChatGPT的人工智能发展产生的制度欠缺风险。国内的百度、腾讯、阿里巴巴均在布局类ChatGPT的人工智能语言模型，如百度的“文心一言”，英文名ERNIEBot，将在三月份将完成内测，面向公众开放。新技术的发展必定面临“科林格里奇困境”，即一项技术的社会后果不能在技术生命的早期被预料到。然而，当不希望的后果被发现时，技术却往往已经成为整个经济和社会结构的一部分，以至于对它的控制十分困难。”目前，我国人工智能立法正处于预研究阶段，还没有正式的立法计划或者相关的动议草案。虽然深圳、上海等地有相关立法尝试（2022年9月6日，深圳公布了全国首部人工智能产业专项立法《深圳经济特区人工智能产业促进条例》；2022年9月22日，上海通过了《上海市促进人工智能产业发展条例》，并在同年10月1日正式施行。），但人工智能科研活动的法律约束和具体的伦理监管在国家层面上仍然面临缺失，随着ChatGPT引领的人工智能风口的到来，对法律约束和伦理监管的