让人性与AI 协同进化—读《黑镜与秩序》有感.docxVIP

让人性与AI协同进化—读《黑镜与秩序》有感

近日参加宇树科技创始人、CEO、CTO王兴兴关于具身智能技术前沿的分享会，有几点体会颇为深刻：化繁为简的思维方式，比如用初中生听得懂的语言解读Transformer模型；积木组合式的创新方法，比如推荐用GoogleColab、kaggle开源平台玩起来（分享会中其多次提到“这其实很简单”）；对具身智能的哲学思考，比如以“瓶子里的大脑”“梦里为什么跑不快”“鹦鹉为什么会说话”等问题思考身体对智能的作用。

王兴兴的分享也提出了一些新颖的观点。关于通用人工智能（ArtificialGeneralIntelligence，?AGI），王兴兴认为，AGI的实现需要有实物机器人来实物部署，实时采集最新的数据训练，需要参与到和整个世界的物理交互中，需要参与到人类的大众生活中，来体验和理解人类的情绪和性格等。显然，在“四大智能”（计算智能、感知智能、认知智能、运动智能）领域，与专注认知智能的语言大模型公司相比，宇树科技对AI研究和应用的范围更深、更广。关于跨尺寸智能（CrossScaleIntelligence，CSI），王兴兴则提出了一个大胆且有趣的设想：我们先拥有通用智能机器人，然后用它制造小型的机器人，再用小型的机器人制造更小的机器人，再用更小的机器人制造微型机器人，最后小到进入身体消灭癌细胞等；反过来，也可以用它制造大型的机器人，再用更大的机器人制造巨型的机器人用来抢险救灾等。这种犹如金箍棒一样可大可小的跨尺寸具身智能，将在AI复制AI、AI创造AI中深刻影响人类。到那时，人类永生、愚公移山等或许都不再是神话。

有感于王兴兴的分享内容，我想起了之前读过的一本书——《黑镜与秩序：数智化风险社会下的人工智能伦理与治理》（简称《黑镜与秩序》）。这本关于探讨解决现实世界中人工智能伦理与治理问题的科技人文读物，也充满了对人工智能深刻的哲学思考。

这本书认为，在人工智能时代，智能社会将成为一个“充满智能机器的社会”与“人类的社会”的结合体。“智能机器”与“人类”是两种本质及属性截然不同的存在，两者结合的过程一定是极其复杂和充满矛盾的过程。以机器人为代表的智能机器与人类之间将是一种什么关系？是人类作为使用者、机器人作为服务者的主仆关系，还是机器人与人类是平等主体友好相处的朋友关系，抑或人类过度依赖机器人，被机器人奴役的奴主关系？

关于人类与机器人关系的科幻小说和影视很多，我觉得有两个方面特别需要警惕：一方面是人工智能的失控；另一方面，也是非常容易被忽视的一点，则是人类心性的异化。正如当我看到功夫机器人“回旋踢”之后，惊叹之余也闪过一丝恐惧：如何与人工智能同存、共处，人类是缺乏经验的。

我们对待新兴事物多数时间是从应然走向实然的。回到智能社会本身，人工智能的发明和应用是为了什么？《黑镜与秩序》认为，是为了追求一种和谐美好的生活，一种人类与具身智能友好共处的文明社会。这样的社会至少有以下三个特征：

智能社会是真实世界，不是虚拟空间。智能社会确实是无处不以数字量化来显示其存在的社会，所以多数人把“数字的”误解为“虚拟的”。真实的人类社会并非如此，真实的人类社会是一个生机勃勃的世界。人，作为这个世界生生不息的力量源泉，是存在先于本质的；人工智能则相反。人是主动的、生成的、创造的、超越的，有生命力的，相应的世界是变化的、丰富的，是高于科学世界的。完全以量化方式作为生活方式和思维方式，就会丧失人的主体性和能动性。只有反过来，以生活世界为起点，才能更合理地解释、理解以智能社会为代表的新世界。人类运用人工智能，应该更好地发挥创造性，使人有更多时间闲暇，享受有限人生的乐趣和智能社会的便利。

心理学家H.汉弗莱说过：“有意识的感觉是我们存在的核心。倘若我们未曾接触这一奇迹，那我们不过是居于索然无味的世界中的可怜生命而已。”从这个意义上讲，王兴兴认为AGI的实现需要实物部署、需要物理交互、需要参与到现实世界和人类生活中来，是非常睿智的。只有让人工智能进入生活、融入生活，才能更好地理解和服务人与人类社会。

智能社会是自由而全面的，不是“精英阶层”独有的。智能社会要“解放”的不是少数的“精英阶层”，而是大多数普通人。人不是人工智能，人的本质必须在社会实践中形成，生活意义的建构也必须来自主体经验的体悟。只有与人（而不是机器）相处，广泛体验社会，人的生活才会更明朗，对人生的记忆才会更深刻，生命的状态才会最自然，幸福的感觉才最真切。我们对智能社会充满了期待，这样的社会比现在更需要平等友爱、更需要公平正义。

我认为，未来人和人工智能的矛盾，并不会明显体现在“人用木棍殴打机器人”“机器人误伤人类”之类的事件上，而是会更加突出地体现在“擅长使用人工智能的人与不能有效使用人工智能的人之间的矛盾”。这也是有识之士探索人工智能伦理