谈谈人工智能AI应用中的风险.pdfVIP

上海轻工业SHANGHAILIGHTINDUSTRY科普新知NewknowledgeofPopularScience

谈谈人工智能AI应用中的风险

文／汪永明

上海市退（离）休高级专家协会轻工专业委员会高级工程师

在谈人工智能AI应用中的风险前，术总会伴随新风险。本文将对人工智能应纪初，随着动作捕捉技术的进步，影视作

首先要了解什么是人工智能。根据《上用中的风险予以介绍，并提出规避建议，品中出现了3D数字角色，数字人进入第

海市促进人工智能产业发展条例》所称：以引起人们的重视。二阶段。最近10年，因为深度学习算法

人工智能是指利用计算机或者计算机控的突破，AI生成的第三代虚拟角色问世，

制的机器模拟延伸和扩展人的智能，感知一、生成式人工智能联手数字人他们的外形更接近真人，可以按脚本讲

环境、获取知识并使知识获得最佳结果的引发的风险话、做事。《每日经济新闻》在新闻直

理论、方法、技术及应用系统。人工智能播节目中引入了2个数字主持。具有传奇

技术在经济、生活、城市治理甚至军事2023年7月6—8日，世界人工智能色彩的是，因为其太过逼真，而且从未

上都有着广泛的应用。从技术层面来看，大会在上海召开，生成式人工智能（AIGC）官宣“身份”，以至于开播2个多月后，

人工智能的核心能力可以分为3个部分，和数字人成为热门话题。AIGC数字人研观众才意识到2个主播原来都是虚拟的。

分别是计算智能、感知智能、认知智能。究院高级研究员唐昱佳介绍，世界上首个再后来，不知疲倦的数字人逐渐成为电商

计算智能即机器具备超强的存储能力和数字人是卡通片《超时空要塞》中的女主宠儿。有媒体这样报道新一代数字劳模：

超快的计算能力；感知智能是指机器具备角。根据片方安排，她“走出”动画片，凌晨的公司空无一人，带货的全是数字

视觉、听觉、触觉等感知能力；认知智能在现实世界出版了一张音乐专辑，由此让人。有了AIGC的赋能，数字人有望成为

是指机器像人一样，有理解能力、归纳能人看到了虚拟IP旺盛的生命力。受技术娱乐偶像、电商主播，或者在新闻、医疗、

力、推理能力和运用知识的能力。但新技限制，第一代数字人主要靠手绘。21世教育、法律等专业领域扮演专业角色。

·59·

科普新知PopularScienceNovember2024SLIA

但是，随着大模型和AIGC工具的繁可能是服务提供者收集接入了“有问题”前急需21000美元律师费。让故事显得

荣，未来所有人都会拥有自己的数字分的信息，可能是用户在交流过程中通过更为逼真的是，电话中还传来了近似珀

身，即“人人都可以实现数字永生”。恶意提问使它产生虚假信息，也可能是金的声音。这对夫妇挂断电话后慌作一

问题在于，就“数字永生”而言，目前AIGC本身的“固有缺陷”让服务提供者团，立刻跑去银行将钱转给“律师”。

技术可为已故亲人复制1个数字分身，和用户共同造成了侵权。为确保生成式直到儿子当晚打电话过来，他们才发觉

这就有了伦理问题。而且生成的数字人AI安全、透明、可释，已有多家单位发被骗。这家人迅速报警，经警方调查，

图