人工智能发展和安全并重的法治探究——以人形机器人为例.pdf

人工智能发展和安全并重的法治探究

以人形机器人为例

刘权

内容摘要：基于“大数据+高算力+强算法”的人形机器人，能够实现连贯高效的人一机一环境

智能交互，可服务特种领域需求，助力智能制造，成为人类生活助手和情感伴侣。尽管人形机

器人存在功能安全、网络安全、个人信息安全、数据安全、国家安全、违法“代理”侵权、伦理

等多种风险，但如果过度追求安全，就会扼杀创新而阻碍发展。发展是安全的基础，安全是发

展的条件，应实现人工智能发展和安全并重。通过理性实施包容审慎监管，推动人形机器人

在发展中规范、在规范中发展。科学合理地开展安全风险评估，将人形机器人风险控制在可

接受的水平。完善数据安全认证、个人信息保护认证等第三方声誉评价机制，并分级分类推

动人形机器人标准制定。应合理配置相关主体的责任，避免人形机器人的过度拟人化，防止

陷入“人形机器人陷阱”。通过完善的伦理规范约束人工智能研发者，并为人形机器人“加载”

道德，使其对人和环境友好。

关键词：人形机器人具身智能发展和安全并重包容审慎监管算法安全风险评估

中图分类号：DFO文献标识码：A

一、问题的提出

作为具身智能产物的人形机器人，通过使用以大数据为基础的多模态模型，在高算力的基础上，

通过强算法能够进行高质量的感知、规划和行动，并可以通过自然语言同人类连贯高效地智能交互。

2023年工业和信息化部发布的《人形机器人创新发展指导意见》提出：“人形机器人集成人工智能、高

端制造、新材料等先进技术，有望成为继计算机、智能手机、新能源汽车后的颠覆性产品，将深刻变革

人类生产生活方式，重塑全球产业发展格局。”【1]尽管在真正意义上可能成为“智能终端的人形机器

人具有极为广阔的应用场景，可服务特种领域需求，助力智能制造，成为人类生活助手和情感伴

侣，但在发展过程中也会引发一些安全问题，如何实现人工智能发展和安全并重成为数字时代的重

要命题。

当前从法治角度对人工智能发展和安全并重的专门探究较少，有学者提出发展和安全并重是独

*中央财经大学法学院“龙马学者”特聘教授、博士生导师。

号）

印发《人形机器人创新发展指导意见》的通知》（工信部科【2023】193

【1]《工业和信息化部关于印发人形机器人创新发展指导意

32

人工智能发展和重的法治探究

具特色的中国人工智能治理之道，另有学者对实现生成式人工智能发展与安全并重的包容审慎监管

进行了研究。【2)对于人形机器人的发展和安全并重问题，部分学者探讨了人形机器人的隐私风险、操

纵性风险、“信任控制”风险等具体风险，3)另有部分学者研究了人形机器人的法律治理基本架构、侵

权责任、刑事责任等问题。【4]现有研究已经取得了卓越的成效，但呕需从中观层面并结合人工智能的

具体应用领域，系统深入探究人工智能发展和安全并重的法治问题。

科技的创新总是伴随着各种风险，智能时代科技更新迭代速度更快，发展和安全的矛盾变得更

为突出。在未知大于已知的情境下，很难平衡发展和安全的关系。发展是安全的基础，过度追求安全

会扼杀创新而阻碍发展。安全是发展的条件，罔顾安全而求发展会导致多种风险。《“十四五”机器人

产业发展规划》（5)《人形机器人创新发展指导意见》等文件均明确提出“统筹发展和安全”，《生成式

人工智能服务管理暂行办法》第3条规定“国家坚持发展和安全并重、促进创新和依法治理相结合的

原则”。（6)2024年政府工作报告提出“开展‘人工智能+行动，打造具有国际竞争力的数字产业集

群”。【7)2024年发布的《中共中央关于进一步全面深化改革、推进中国式现代化的决定》要求“实现高

质量发展和高水平安全良性互动”“建立人工智能安全监管制度”8)为了促进有效市场和有为政府更

好结合，推动人工智能产业高质量发展，助力发展新质生产力，本文将以人形机器人为例，系统探讨

人工智能发展和安全并重的法治之道。

二、人工智能发展和安全的张力

发展和安全的冲突，在人工智能时代更为凸显。智能科