发展人工智能应避免近视症.docxVIP

?

?

发展人工智能应避免“近视症”

?

?

【摘要】顺应形势把握住人工智能和第四次工业革命带来的重大历史机遇，能够为转型期的中国经济社会发展提供新动能。人工智能时代机遇与挑战同在，应当加强人工智能技术发展研判和预测，增强风险意识，更好应对人工智能技术可能导致的失控风险、伦理挑战、就业影响，促进科技治理能力现代化。处理好“善治”与“善智”的关系，走向技术与社会的“良性互构”。

【关键词】人工智能伦理规约社会治理TP24A

人工智能时代：机遇与挑战同在

人工智能是引领未来的战略性技术，从国际发展态势来看，世界各主要国家均把人工智能作为重要发展战略，力图在新一轮国际竞争中把握住主导权和话语权。2017年7月，国务院印发了《新一代人工智能发展规划》进一步明确了中国新一代人工智能的发展目标，规划指出：2020年人工智能产业成为新的重要经济增长点；2025年中国的智能社会建设取得积极进展，2030年中国成为世界上主要的人工智能创新中心。

第四次工业革命及人工智能时代的到来正在见证生产组织方式的巨大变革，以规模化定制为特征的生产组织方式、平台经济以及企业的网络化、扁平化正在成为新的趋势。新产业形态出现将为传统产业提供转型的契机，经济发展的新动能正在被持续发掘，利用人工智能技术提升和改造传统产业正在汇聚经济社会转型的新动力。顺应形势把握住人工智能和第四次工业革命带来的重大历史机遇，可以带动国家竞争力的整体跃升，进而为处于转型期的中国经济社会发展提供强大动能。

推进和发展人工智能技术已经成为国际社会共识，然而人工智能在提供社会发展动力和平台的同时，也对经济、社会、就业、法律、伦理、安全诸领域提出了新挑战。人工智能时代的技术以指数而非线性速度发展，在既有的发展水平差距面前，经济发展水平较高、技术较为先进的国家与较为落后的国家之间的差距将进一步增大，全球治理秩序亟待重组。个体网络身份和社会身份的冲突在挑战传统社会规范，网络空间的兴起和人工智能发展所引发的大量新伦理问题亟待形成共识。

从技术演化历史来看，很多关键性的技术发展都要经历从0到1，再从1到100的过程。2016年3月阿法狗（AlphaGo）在围棋领域首次战胜人类世界冠军深刻冲击着人类对自身智力极限的信心；而2017年10月《自然》杂志发文报道的新一代阿法元（AlphaGoZero）已经具有了远高于阿法狗的棋艺，尤为重要的是其棋技学习不需要以历史棋谱为指引，也不需要以人类先验知识为指导，而是完全靠其自身的强化学习获得技能的提升，以至于专家发出“人工智能从0到1”的惊呼。

如果说阿法狗和阿法元在围棋领域的强势胜出一度导致了公众焦虑、引起人类对自身智力极限的反思及对“人的本质是什么”的深层追问。霍金则警告称：发明人工智能AI可能会成为人类历史上最大的灾难，如果管理不善，会思考的机器可能会为文明划上句号。

人工智能技术发展：构建“好的人工智能社会”是全人类面临的严峻挑战

人们期待通过技术“保护我们以摆脱现实生活的悲惨险境”时，也一直在关注技术发展可能带给人类的风险。人类社会从传统社会迈向现代社会是一个质的飞跃，自工业革命伊始，技术一直被视作这一宏大社会进程的重要变革性力量，但从伦理学角度看，技术也一直被视作一种忧患之源。

人类发展技术的历史也一直纠结在“技术控”与“技术失控”的二元逻辑主线之中。人们在享受技术便利的同时，有可能失去了对复杂技术系统的控制，进而对人类生存带来灾难。“技术的反向控制与适应”的主题也一直存在于各个文化体系和知识形式之中。从传统社会思想家对“技术危险性”的警示到工业革命之初社会科学家对“启蒙黑暗面”的关切；从近现代戏剧与文学作品（狄更斯、托尔斯泰、卡夫卡等）对“技术两面性”的大众化诠释和传播，到技术研究领域对“技术敌托邦”的探索，再到近代社会科学的政策分析，所有关切都指向技术所带来的意想不到的社会结果，“技术的潜在功能与社会功能紊乱”问题一直是人类发展的梦魇。而人工智能可能自然演化具备自觉意识并对人类发动攻击则是技术忧虑在当代公众意识中的折射。

人们曾一度认为，人类对自己制造的东西最为了解，并能达到对“制造物”的牢固控制，然而科技發展的速度往往超乎人类想象。起初，机器人只是作为一种人类生活工具出现在科幻小说中的。20世纪中期，当艾萨克·阿西莫夫出版《我，机器人》的时候，机器人世界还是想象中的世界，在科幻作家最初设想中，机器人以照顾人类为己任。然而随着科学技术的进步，人们开始对机器人技术是否会超出人类控制范围产生了怀疑。当今，人类生活中已经充斥着大量机器人，并且越来越智能化，科学的进步总是超乎人们预测。于是，人们开始设想高度发展的人工智能未来，当智能机器人充斥于我们生活那一天，是否会不再满足于为人类服务，而像人类宣战，并统治世界？机器与人的关系是否有可能