防范生成式AI四大风险.pdf

专栏

提要：打造负责任的

生成式AI，防范合

规、数据、用户以及

价值风险，需要在生

成式AI基础模型的

设计之初就未雨绸

缪，并在其全生命周

期中持续领航匡正

的系统性工程。

14|企业全面重塑

防范生成式AI四大风险

防范生成式

AI四大风险

文陈泽奇

今，ChatGPT的诞生激发了前所未有的

创造浪潮，也让公众直观地感受到生成

当

式AI的力量。但缺少规范的技术如同一

个尚未辨知善恶的新生儿，在带给人类极大帮助的

同时，也潜藏着新的风险。

新加坡《海峡时报》就曾报道，某科技企业工

程师在借助ChatGPT处理工作时，无意中将产品核

心数据输入其中，导致商业机密外泄。越来越多的

ChatGPT用户也发现，在与AI对话时会收获一些细

节丰满的故事，甚至言之凿凿的文献参考，但实际上

这些并非真实信息，而是生成式AI的“模型幻想”

（modelhallucination）。

生成式AI风险何在

对企业而言，生成式AI将改变工作方式、重塑

商业模式。越来越多的企业已开始积极探索相关应

用，以期提升创新效率、实现高质增长，但生成式AI

的风险同样需要引起重视。

企业全面重塑|15

专栏

首当其冲的就是合规风险，它贯穿于模型设计、80%的受访者表示，他们将投入10%或更多的AI总预

搭建、使用各个阶段，并会产生长远的效应。比如生算，以满足未来的监管要求；69%的受访高管表示，

成式AI基于学习需要而对用户数据的留存、分析是否其所在企业已经开始尝试负责任的AI实践，但并未将

侵犯了个人和商业隐私以及相关数据保护法案；它在其作为运营基础。

借鉴创意作品（如画作）的过程中，是否侵犯了作者值得注意的是，不少受访者认为，合规的AI将为

版权和著作权；由此产出的作品又是否可用于商业用其提供额外的竞争优势⸺43%的高管认为这将提

途；甚至使用生成式AI本身，是否违反了部分国家和高他们将AI产业化和规模化的能力，36%认为它将为

地区的法律法规。竞争优势和差异化创造机会，41%认为它可以帮助吸

同样可能在生成式AI的生命周期中出现的还有引和留住人才。

数据风险。生成式AI的运作核心是机器学习，其价值与之相应，在2022年埃森哲发布的《AI成熟之

与数据的质量和真实性密切相关。如果一台基础模道：从实践到实效》报告中，我们还发现，有13%的

型长期浸染在存有偏差的数据当中，它就会被这些受访企业成功使用AI技术实现了超过50%的收入增

数据“诱导”，从而输出错误的信息或执行歧视性操长，同时在客户体验（CX）和环境、社会与企业治理

作。某些群体特质也会使生成式AI为其打上固化标（ESG）方面表现出色。相较于普通企业，这些“AI领

签，“一刀切”地去执行某些程序，从而失去了应有的军者”更加注重从设计企业各个环节的时候就把负

公平性。责任的AI列为优先事项。

此外，用户风险也是需要重点关注的一环。事在

人为，生成式AI的价值高低，很大程度上取决于使

用它的人。我们需要通过一系列的法律法规、流程规

新加坡是金融科技的沃土，不少机构都已

范来防止人类有意、无意地使用生成式AI造成负面