人工智能的危害论文.pdfVIP

人工智能的危害论文

比核武器还要危险

“我们需要对人工智能A.I.超级小心，人工智能可能比核武器还要危险。”

“希望我们不要在生物学上成为数字超级智能的启动加载程序。不幸的是，这种可能

性越来越大。”

以上是身为特斯拉汽车和太空探索这两家高科技公司CEO、人称现实版“钢铁侠”的

埃伦·马斯克2021年8月在twitter上发的两条推文。

或许是感到仅靠一个人对人工智能将消灭人类的可能性发出警告影响力不足，2021年

1月12日，以马斯克为首的企业家及发明家与以物理学家霍金为首的科学家联名发表公开

信，警告公众不能忽视人工智能的安全性及对社会的负面影响。他们呼吁业界在制造人工

智能时，须确保其“系统依照我们的指令行动”。这封由生命未来研究所FutureofLife

Institute发出的公开信强调，“必须确保人工智能能够按人的意志工作。人工智能研究

一直在稳步发展，对社会的影响也在逐渐增加，潜在的收益是巨大的。过去人类文明的所

有产物都来源于人类的智慧，但在人工智能的协助下人类的智慧可以被放大到什么水平，

我们无法预测，或许有一天，疾病和贫穷可以因此永远消弭。因为人工智能的潜力巨大，

确保它带来收益的同时避免潜在风险，就显得至