ChatGPT：生成式人工智能应用风险及对策研究.pdfVIP

2024年2月湖北经济学院学报渊人文社会科学版冤Feb.2024

第21卷第2期JournalofHubeiUniversityofEconomics(HumanitiesandSocialSciences)Vol.21No.2

ChatGPT：生成式人工智能应用风险及对策研究

李莉渊合肥工业大学文法学院安徽合肥230002冤

摘要院ChatGPT作为生成式人工智能的新代表产物其功能和影响标志着人工智能进入到一个全新的时代遥

ChatGPT是基于大语言模型产生的聊天生成式智能机器其丰富的语言逻辑和智能化程度已经高度集中遥ChatGPT的成功

将引发生成式人工智能爆炸式的发展由于人的性是趋利避害的这将使得生成式人工智能引发数据安全风险尧个体使用

风险尧社会安全风险尧国家安全等风险通过对这些风险具体的阐述使我们认识到生成式人工智能带来便利的同时也带给

我们巨大的风险承担故需要采取一定的措施规制风险,以便更好地利用ChatGPT生成式人工智能带给我们的科技智慧遥

关键词院ChatGPT曰生成式人工智能曰应用风险曰对策研究

问题的提出索引擎的雏形遥其以在自然语言处理领域的先进技

渊一冤ChatGPT的发展和应用前景术和以大数据作为应用基础为用户提供了更加智

随着人工智能技术的快速发展OpenAI公司发能化和个性化的服务遥野从实践来看ChatGPT这种

布的ChatGPT强对话工智能引起了全世界的关基于算法尧算力和数据的新生工具在数字治理尧教

注遥根据有关数据的统计ChatGPT推出仅2个月育变革尧生物医疗尧医疗健康尧电子商务尧多媒体生产

用户就达到1亿多增长速度可谓是前所未有遥等领域都能得到应用有提升各领域生产力的巨大

GPT渊GenerativePre-trainedTransformer冤技术是以潜力遥冶[1]

Transformer架构为基础的自然语言处理渊Natural渊二冤对生成式人工智能ChatGPT规制的原因

LanguageProcessingNLP冤模型以人工智能生成内ChatGPT作为一种大型语言模型的工智能

容渊AIGC冤技术突破为转折点其在AIGC上的突破其可生成类语言具有高度的连贯性和流畅性遥它

主要是在创作成本上具有颠覆性而且具备本增已广泛用于自然语言处理渊NLP冤如语言翻译尧文本

效的多重优势并且有望解决目前PGC渊专业生产内摘要尧问答和聊天机器人对话等遥比尔窑盖茨对

容冤或UGC渊用户生成内容冤创作质量参差不齐或是ChatGPT做出了这样的评价院称ChatGPT是自1980

低其有害性内容传播等问题同时创意激发提升年以来最具革命性的进步但他也指出ChatGPT会

内容多样性遥ChatGPT拥有超过千亿参数大模型的带来法律尧隐私尧歧视等一系列风险问题遥马斯克同

智能模型学习能力其学习能力和储存能力都远超样在自己的博客写道院野很惊我们离强大到危险

类并且ChatGPT经过时间积累可以在前的基的人工智能不远了冶这都表达了对ChatGPT快速发

础上不断优化储存和学习能力遥展所带来的潜在危险表示担忧遥笔者认为ChatGPT

ChatGPT并不是一开始就那么智能的其历经的发明具有划时代人工智能应用的价值和意义在

了从GPT1到GPT4的四次大的飞跃每一次的飞跃这种无比巨大的价值利益前ChatGPT的发展势

都在参数值和核心技术上实现了突破目前发展到不可挡我国也开始大力发展生成式工智能这势

GPT4.0其主要是基于规则的奖励模型渊Rule-Based必对数据安全尧个信息安全尧社会安全和国家安全

RewardModels冤然而GPT3.0之后的模型不再开构成了一定的威胁遥虽然我国禁止国版ChatGPT

源这就意味着ChatGPT核心技术将掌握在少数