《以伦理为基准的设计》我们是谁IEEE全球倡议的使命.PDFVIP

《以伦理为基准的设计》 --在人工智能及自主系统中将人类福祉摆在优先地位的愿景（第一版） 为了从人工智能及自主系统（AI / AS ）的潜力中充分获益，我们需要超越臆想，不局限于只是寻 找更多计算的能力或解决问题的能力。我们需要确保这些技术与人类在道德价值观和伦理原则方 面保持一致。人工智能及自主系统远不止于是实现功能性的目标和解决技术问题，而必须以一种 造福于人们的方式行事，才能使人类与技术之间达成崇高的信任，让人工智能及自主系统能够在 日常生活中被人们建设性地普遍使用。 正如亚里士多德所阐述的“幸福（Eudaimonia ）” ，它是一种将人类福祉定义为社会最高美德的实 践。幸福大致理解为“繁荣” ，它始于有意识的沉思，对伦理的思考有助于定义我们希望怎样生活。 通过将人工智能及自主系统的创造与其用户和社会的价值观保持一致，我们优先将人类福祉的增 加作为算法时代进步的指标。 我们是谁？ 电气电子工程师学会（IEEE ）关于人工智能及自主系统的伦理考虑的全球倡议（”IEEE 全球倡 议” ）是IEEE 的一个项目。IEEE 是世界上最大的专业技术组织，致力于推进技术发展,造福人类， 该组织在160 多个国家拥有超过40 万会员。 IEEE 全球倡议为人工智能及自主系统社群提供了一个汇集多种声音的机会，以便大家及时发现问 题并形成共识。 IEEE 将根据《知识共享 署名-非商业性使用-相同方式共享3.0 美国许可证》制定《伦理准则设计》 （EAD ）。 根据该许可证的条款，组织或个人可以随时自行采纳本文件的各方面内容。还拟选取《伦理准则 设计》的内容和主题提交正式的IEEE 流程，其中包括标准制定等。 IEEE 全球倡议和《伦理准则设计》使得IEEE 在更广泛的范围推出新项目，致力于在技术伦理领 域开展开放、宽泛和包容的对话，这个项目被称为IEEETechEthics™。 IEEE 全球倡议的使命 确保每位技术专家得到教育、培训和赋权，并在自主和智能系统的设计和开发中会优先考虑伦理 问题。 “技术专家” ，在这指的是任何参与人工智能及自主系统的研究、设计、制造或信息交流的人，包 括实现这些技术的大学、组织和公司。 本文件体现了 100 多名全球思想领袖的集体智慧，他们分别来自学术界、科学界、政府和企业界， 从事人工智能、法律和伦理、哲学、政策领域的相关工作。我们的目标是希望《伦理准则设计》 中同仁们提供的见解和建议能为人工智能及自主系统技术专家未来的工作提供关键参考。为了实 现这一目标，当前版本《伦理准则设计V1》（EAD v1 ）确定了人工智能及自主系统的领域中的 问题并提出了可选建议。 IEEE 全球倡议的第二个目标是基于《伦理准则设计》为开发IEEE 标准提供建议。 IEEE P7000™ －解决系统设计时伦理问题的流程模型，是第一个受到该倡议启发的IEEE 标准项目 （已批准并且正在开发中）。另外两个标准项目，IEEE P7001™ －自主系统的透明度和IEEE P7002™ －数据隐私流程也已被批准。由此可见，该倡议对人工智能及自主系统的伦理问题产生 了实质性影响。 结构和内容 伦理准则设计包括八个部分，每个部分围绕着一个与人工智能及自主系统有关的特定话题进行阐 述，分别由IEEE 全球倡议相应的委员会组织探讨。每个委员会都列出了涉及的议题及其可选建 议。以下是各委员会的摘要以及各个部分所涉及的问题： 一、一般原则 一般原则委员会已清晰地說明适用于所有类型人工智能及自主系统的一般性的伦理关注，即： 1. 体现人权的最高理想； 2. 排列出对人类和自然环境最大利益的优先顺序； 3. 随着人工智能及自主系统逐渐演化成为社会技术系统，缓解其带来的风险和负面影响。 委员会的目标是将其确定的原则、议题和建议选项，最终用于巩固和支撑人工智能及自主系统新 伦理治理框架下的未来规范和标准。 议题： ● 我们如何确保人工智能及自主系统不侵犯人权？（制定人权原则） ● 我们如何保证人工智能及自主系统是可以问责的？（制定责任原则） ● 我们如何确保人工智能及自主系统是公开透明的？（制定公开透明原则） ● 我们如何扩大人工智能及自主系统技术所带来的利益，最小化其被滥用的风险？（制定教 育和认知原则） 二、将价值观嵌入自主智能系统 为了开发成功而有益于社会的自主智能系统，对技术社群至关重要的是，需要理解和能够将相关 的人类规范或价值观嵌入到他们的系统中。“价值观嵌入自主智能系统委员会” 针对嵌入价值观于 自主智能系统已采取了较宽广的目标，以三管齐下的方式协助设计者： 1.