美国人工智能研发与政府管理趋势分析及启示（下）.pdf

美美国国人人工工智智能能研研发发与与政政府府管管理理趋趋势势分分析析及及启启示示 （（下下）） 2019年07月17 日 3 政政府府在在人人工工智智能能研研发发应应用用中中的的管管理理分分析析 人工智能研发应用 否取得成功或成功的程度 ，取决于其 否为人类社会产生了正能量或创造的价值有多大 。从这个意义上 讲 ，人工智能研发应用应设计成能使人们理解 、参与的系统 ，并与人们建立起信任 ，延伸和增强人类改造自然 、治理社会的 能力和效率 。这就要求人工智能的研发应用 ，尤其 其中的价值函数等的设计符合理性人的正确价值取向和思维方式 ，避免 研发出有种族歧视 、金融诈骗 、恶意攻击伤人倾向等违背理性人价值取向甚至违法的智能系统 。 同时 ，人工智能的研发应用可能随之产生一些社会问题 。例如 ，智能机器人的出现将使一些人的技能被淘汰 ，甚至失业 ，社 会和政府应提供什么样的保护措施 ，如何保护这些人的社会公平利益？人工智能导致生产效率的提高 ，由此带来的收益如何 公平分配？智能机器人出现后 ，如何有效保护个人隐私？自动驾驶车辆发生交通事故或者智能医疗设备发生医疗事故时 ，由 谁来承担相应的责任？等等 。 从上面的分析可以看出 ，一方面 ，要确保人工智能发挥正面积极作用 ；另一方面 ，对其产生的社会问题 ，要妥善应对防范 。 [4] 脸书 、微软 、特斯拉等美国高技术公司已开始讨论这些问题 ；美国信息技术产业理事会曾发布 《人工智能政策原则》 ，提 出了负责任的设计和部署等14个方面的政策主张 。但 ，大多数企业和研发人员目前还没有考虑 （至少还没有充分考虑）这 些问题 。 面对人工智能系统产生的这些深刻变化 ，政府管理部门理应担负起社会管理责任 。但 ，如果管理滞后或不当 ，将会阻碍创 新发展 ，甚至引发其他社会问题 。要有效解决这些问题 ，专家认为 ，政府管理部门和人工智能的研发者 、使用者以及行业协 会应一起参与讨论 ，形成合作伙伴关系已迫在眉睫 。同时 ，政府管理部门要通过强化内外部的责任 、提高透明度 、采用专业 化的手段来加强相关管理行为 。这就要求与人工智能相关的政府管理部门配备专门的人工智能技术人员 ，在设计管理框架和 制定管理政策法规时提前考虑人工智能的研发应用可能带来的管理影响 ，提前采取应对措施 。一方面应提出明确的指导原 则 ，要求人工智能研发者 、使用者在研发应用过程中始终坚持理性人正确积极的价值取向 ；另一方面 ，针对人工智能可能产 生的一些社会问题 ，要及时制定相应的法律法规 ，明确法律责任主体 ，避免社会管理混乱或管理法规缺失 。目前美国国会正 [5] [6-8] 进行人工智能立法工作 ，交通部和部分州已制定了自动驾驶相关的交通指南和法规 。 4 启启示示与与建建议议 我国正在全面实施 《新一代人工智能发展规划》 （以下简称 《规划》），“智慧社会”的理念已写进了党的十九大报告 ，发展 人工智能已上升为国家战略 。我国正力争实现“弯道超车” ，在新一轮国际科技竞争中把握主动权和主导权 。根据人工智能发 展趋势 ，对我国实施 《规划》有以下几点建议 。 4.1 加强 《规划》实施的研究开发 、管理框架和政策法规的顶层系统布局 人工智能发展不仅涉及众多学科 ，而且涉及伦理 、法律 、社会管理甚至意识形态等诸多问题 ，因此实施 《规划》不只 科学 家的事情 ，也不只 科技管理部门和产业管理部门的事情 ，还需要法制部门和社会管理部门共同参与。政府管理部门加强与 研发者 、使用者 、行业协会的沟通 、协作和配合非常重要 ，应根据人工智能研究开发进展情况 ，及时制定相应的管理框架和 政策法规 ，当前尤其要加强研发人员的价值伦理引导和教育 ，使其在人工智能研发过程中体现正确的价值取向。 4.2 持续跟踪把握世界人工智能发展趋势 ，选择恰当的技术研发方向 ，设计相应的社会管理方式 尽管人工智能演进发展已有60多年 ，近年发展迅速 ，但从其成熟度来讲 ，目前尚处于“机器智能”的早期阶段 ，还不 严格意 义上的人工智能 。因此 ，要持续跟踪把握世界人工智能的发展趋势 ，不仅要跟踪研究发展趋势 ，而且要跟踪