为生成式AI系上“安全带”.pdf

14COVERSTORIES封面文章

为生成式AI习近平总书记在二十大报告中明确提出，“以

新安全格局保障新发展格局”。自OpenAI发布

ChatGPT以来生成式人工智能以下简称生成

系上“安全带”，（“

式AI”）迅速引发了全球范围内的广泛关注。作为

文/中国电子信息产业发展研究院网络安全研究所李东格孟雪生成式AI的典型代表ChatGPT具备的人类语言生

，

成和理解技术以及强大的情感分析能力有望成

在生成式AI技术迭代创新的重大机遇期，应理性，，

分析其潜在的风险与挑战，积极探索技术发展、为全球生产力变革的驱动力，带动新一轮技术创新

应用及监管路径，确保生成式AI技术的健康和可周期。

同时ChatGPT的广泛应用也给舆论政治网

持续发展。，、

络安全等多个领域带来严峻的风险挑战。建议我国

在新技术迭代创新之际，抓住发展机遇的同时，理

性分析其潜在的风险与挑战积极探索技术发展

，、

应用及监管路径，确保生成式人工智能技术的健康

和可持续发展。

ChinaOutsourcing15

服务外包

生成式AI的发展趋势确，其训练数据通常来源于自研数据库、数据交

换数据购买以及对公开数据的爬取和挖掘其

1.“技术恐慌”消退，迎来智能化时代、，。

中通过对公开数据爬取挖掘等方式获取训练数

ChatGPT快速出圈，导致生成式AI不可避免地，、

引发了全球性的技术恐慌意大利政府出于隐据的成本低、速度快、获取量大，是目前大部分AI

“”：

私数据泄露的担