人工智能和超级智能——读《超级智能》后感.docVIP

人工智能和超级智能——读《超级智能》后感 人工智能和超级智能 ——读《超级智能》后感 2016年大家都听到过一个词：阿尔法狗。去年由谷歌公司开发的AlphaGo以4:1战胜围棋世界排名第二的李世石（第一名是中国的柯杰）。2016年末2017年初，该系统在中国棋类网站上以Master为注册帐号与中日韩数十位围棋高手（包括柯杰）进行快棋对决，连续60局无一败绩。可以肯定的一点，在围棋上人工智能已经领先于人类。可能大家觉得人工智能和以往的其他棋类程序一样，通过推算所有的后续步骤取得胜利。其实不然，如果采用穷举法，围棋的运算空间非常庞大，据计算将超过整个宇宙中所有粒子的总量，没有任何计算机能完成这个任务。AlphaGo采用是学习方式，通过学习棋谱来学会下棋，通过和自己下棋来提高棋艺。人工智能两个关键点，一能看懂棋谱，二能自己练习提高。程序总是固定的有限的，它的内部运行是可以预测的；人工智能不同，能够学习，能够自我进步，它的运行步骤随着学习过程不断进化。 人工智能和超级智能——读《超级智能》后感全文共6页，当前为第1页。 人工智能和超级智能——读《超级智能》后感全文共6页，当前为第1页。 著名科学家斯蒂芬·霍金曾发出警告，人工智能会控制人类，人类有灭亡的风险。如果你想了解人工智能超越人类以后的可能性，你可以看看这本书《超级智能》。实际上我并不建议大家去读它。首先，本书比较专业，作者尼克·波斯特洛姆作为牛津大学未来研究院的院长，行文中有很多的专业性描述；其次本书的中文版出版社中信出版公司的翻译是知名的烂。读这本书真是一件艰巨的任务，让我想起大学学习离散数学时的美好时光。 书的全名《超级智能?: 路线图、危险性与应对策略》，很好的揭示了主要内容：超级智能是什么，超级智能如何实现（路线图），超级智能有什么危险（危险性），如何有效避免这些危险（应对策略）。 人工智能和超级智能—— 人工智能和超级智能——读《超级智能》后感全文共6页，当前为第2页。 如果有一种智能，在几乎所有领域比人类更聪明，那就是超级智能。这种聪明是全方面的，作者指出了6种超级能力：智能升级、战略策划、社会操纵、黑客技术、技术研发、经济生产，并且证明开始拥有其中一种能力的超级智能最终都能获得其他的能力。我的理解智能升级就是能够主动进化，战略策划就是有很强的谋略，社会操纵就是心理学大师加传销话术，后三种就很好理解了。总之这些都是超级智能超脱人类的控制，能够自主发展的必须能力。 书中指出有三种形式的超级智能： 速度超级智能，功能和人脑相似但是速度更快； 素质超级智能，速度和人脑相似但是功能更强大； 组织超级智能，通过将小型智能组织在一起形成远超个体的智能（作者指出现在社会由于组织和沟通技术的发展，解决问题的能力已经远超以前，但是还达不到超级智能的程度）。 实现超级智能有五种可能方式： 人工智能，通过人工智能程序实现超级智能； 人工智能和超级智能——读《超级智能》后感全文共6页，当前为第3页。 人工智能和超级智能——读《超级智能》后感全文共6页，当前为第3页。 生物认知，通过遗传生物技术优生优育逐步提高人类智商实现超级智能； 人脑-计算机交互界面，把在人脑和计算机直接相连（比如在人脑植入芯片），实现超级智能。 网络和组织，人类集体智能经过长久的发展或者互联网获得了智能的必备要素（互联网有了自主意识），实现超级智能。 作者认为最有可能实现的是全脑仿真和生物认知，可能最先实现的反而是人工智能。前两者在现有生物和信息技术的基础上稳步发展就可以了（虽然时间漫长），而后者则有可能依赖数学家或某个程序员的灵光闪现就能实现。 那么超级智能出现之后对人类会有什么危险呢？（全脑仿真和人工智能的）超级智能出现后，凭借对人类智商压制将取得世界的控制权，人类的命运将交到超级智能的手里，就像现在狗或者老虎的生存环境更多是受到人类的控制。如果超级智能对人类好，人类就能大发展；如果超级智能对人类坏，那人类可能就要灭亡（存在性灾难）。 人工智能和超级智能——读《超级智能》后感全文共6页，当前为第4页。 人工智能和超级智能——读《超级智能》后感全文共6页，当前为第4页。 失败1：反常目标实现方式。目标：让人类和平，实现方式：把人类全部消灭；目标：让人类幸福，实现方式把所有人都抓起来装上生物刺激装置，让人一直处于幸福感中；目标：机器人三定律，实现方式：为实现第一定律，避免人类有被伤害的危险，把所有人都隔离监禁。 失败2：基础设施过量。目标：计算圆周率，实现方式：建造大量计算机设施用来计算圆周率，甚至把人作为设施；目标：世界和平，实现方式：把整个地球建满监控设施，让人无法发生冲突。 失败3：意识犯罪。这个比较复杂，大概如果超级智能对虚拟的人（有智能）实施折磨，从人类道德道德来说是犯罪，而机器不一定这么看。 最后作者探讨