第三部危险和希望.DOC

第三部 危险和希望第十一章 毁灭的发动机 　　我毫不怀疑地球上最可怕的军队是由那些小到不可见的士兵组成的。　　——WILLIAM PERRY，关于细菌，1640　　可复制组装机和思维机器会对地球上的人类和生物产生根本性威胁。今天的生物的能力离可能的极限还很远，但是我们的机器进化得比我们要快。在几十年内它们很可能就会超过我们。除非我们学会如何安全地和它们共生，否则我们的未来将既是令人激动的又是短暂的。我们不能希望预见所有未来的问题，但是我们可以通过注意最大的，最基本的问题来预见最大的挑战，以便做好准备。　　整本书毫无疑问都在写即将到来的社会剧变：当组装机和自动工程消除了大部分的国际贸易的需求时，全球秩序将产生怎样的变化？当个人能独立地生存时社会将怎样变化？当可复制组装机可以做任何事而不需要任何人类劳动时我们将做什么？当AI系统可以思考得比人脑还快时我们将怎么做？（在它们做出结论说人类什么也干不了之前，作者们应该想想跑步者会怎样看待汽车，画家怎样看待照相机）　　事实上，作者们已经预见到和开始讨论这些问题了。它们每一个都非常重要，但是比它们更基本的是生命和自由的存在。毕竟，如果生命和自由被消灭了，那么我们的关于社会问题的思考就失去了物质基础。　　机器的威胁　　在第四章中，我描述了在我们的正确控制下可复制组装机能为我们做什么。由燃料和阳光作动力，它们可以做几乎任何事情（包括生产它们自己），而使用普通的原料。　　活的生物也是由燃料和阳光作动力的，也是使用普通原料生产更多的自己。但是和基于组装机的系统不一样，它们不能制造“几乎任何东西”。　　基因的进化使得生命受限于一个基于DNA，RNA，和核糖体的系统，而拟子的进化将带来基于纳米计算机和组装机的类生命机器。我已经描述了组装机制造的分子机器和核糖体制造的生命机器有什么区别。组装机将能制造所有核糖体能造的，甚至更多。从进化的观点来看，这会产生对水獭，人类，仙人掌，和蕨类植物——对富饶的生物圈和所有我们珍视的东西的显著的威胁。　　早期的晶体管计算机很快就击败了最好的真空管计算机，因为它们基于更高级的装置。同样道理，早期的基于组装机的复制机也将击败最先进的生物。不比我们现在的太阳能电池效率更高的“植物”和“树叶”将使真正的植物出局，并挤满生物圈。坚韧的，什么都能吃的“细菌”将使真正的细菌出局：他们将象花粉那样随风传播，迅速地复制，在几天内把生物圈变得尘土覆盖。危险的复制机很容易变得结实，微小，并快速散布使我们无法阻止——如果我们不做准备的话。而我们对付病毒和果蝇已经够费劲的了。　　在纳米技术专家中，这种威胁被看作是“灰色粘性物问题”。虽然大堆的失控复制机不一定是灰色或粘性的，“灰色粘性物”还是强调了可以湮没生命的复制机可能类似于某种杂草。从进化的角度来说，它们可能是“出众的”，但这并不能使它变得有价值。我们已经进化到热爱一个充满生命，思想，和多样性的世界，没有理由去估价灰色粘性物而仅仅因为它能传播。当然，如果我们能阻止它我们就能证明我们的进化的优越性。　　灰色粘性物的威胁使得一件事变得很清晰：我们不能承受使用可复制组装机中出现的某种意外事故。　　在第五章中，我描述了先进AI系统能为我们做些什么，如果我们能正确地使用的话。最终，它们会浮现出思想并快速传播发展，使得任何哺乳动物的大脑都跟不上它们。AI系统如果象人类那样共同工作的话将能超过不仅我们个人而且是整个社会的思想。再一次，基因的进化使得生命进退两难；再一次，人类拟子的进化——最终是由机器实现——将使我们的硬件发展远远超越生命所受的限制；再一次，从进化的观点来看，这会引起显著的威胁。　　知识能带来力量，力量也能带来知识。依赖于本性和目的，先进的AI系统会积累足够的知识和力量来置换我们，如果我们没有适当准备的话。和复制机一样，纯粹的进化的“优越性”不会使胜利者比失败者更好而只会产生残忍的竞争能力。　　这种威胁使得一件事变得很清晰：我们需要找到一条和思维机器共生的方法，使它们成为守法公民。　　　　力量的引擎　　某些种类的复制机和AI系统可能会用更有能力的迅速，高效，可独立行动的硬件来对抗我们。而这种威胁的新奇——来自于机器自己——使我们不应该把它看作一个传统的威胁。复制机和AI系统如果被主权国家滥用的话，也可能成为权力的引擎。　　纵观历史，国家通过发展技术来扩展它们的军事力量，国家也毫无疑问会成为开发复制机和AI系统的主要角色。国家可以用可复制组装机建造先进的武器工厂，并且有快速，容易和数量巨大的优势。国家可以直接使用复制机来发动一场细菌战争——一场由数量巨大的可编程的，计算机控制的“细菌”组成的战争。依靠它们的能力，AI系统可以成为武器设计者，战略家或者战士。军事基金已经