未来超级智能：小小的回形针能毁灭人类？.pdfVIP

未来超级智能：小小的回形针能毁灭人类？ 2014.08.18 , 08:27 pm 超级计算机 AI 会制造过量的回形针，人类将面临种族灭绝。 这不是开玩笑。牛津大学人类未来研究院的院长 Bostrom 在《超 级智能：道路、危险和策略》这本书中描述了如果 AI 从 Siri 进化到天 网级别时，人类将会面临多么可怕的灾难。该书于今年 7 月份出版， 特斯拉公司的 CEO Elon Musk看过这本书后都感触深刻，在 Tweet 上 发了这样一篇沉郁的警言： Bostrom 关于超级人工智能的书非常值 得一读，我们应该十分谨慎地对待人工智能。 也许它们的危险性比核能更可怕。 — Elon Musk (@elonmusk) 2014 年 8 月 3 日 Bostrom 在位于牛津大学的办公室中通过 Skype 展示了一个思维 实验，论证了 AI 是如何渐渐跑偏的。 其实也不一定是回形针，什么都有可能，只要你给 AI 一个清晰的 目标，比如“在全世界尽可能多生产回形针”——而且AI 必须足够聪 明，可