“ChatGPT之父”提出未来人工智能监管框架.pdfVIP

“ChatGPT 之父”提出 未来人工智能监管框架 ■文/黄宁燕（中国科学技术信息研究所） 也许是恐怕阻碍技术发展， 到美国能否持续保持在AI领域的 会完全不一样。他认为，如果功 美国迟迟未在人工智能监管方面 领导地位。为此，他为美国政府 能超级强大的人工智能系统一旦 采取立法措施。由于ChatGPT的出 规划了未来人工智能监管治理的 出错，就可能错得非常严重，人 现，人工智能的先锋们似乎使人 前景框架。 工智能这个领域、这个技术和这 类走向了原子能的“奥本海默时 个行业就会对世界造成重大伤 一、政府监管对人工智能未 刻”，美国开始密集行动，国会 害。因此，政府的监管干预对预 来发展至关重要 就人工智能监管召开一系列听证 防重大风险和促进人工智能未来 会。2023年5月16日，“ChatGPT 阿尔特曼认为，人工智能技 发展都极为关键。 之父”OpenAI首席执行官山 术对未来社会发展的影响力有如 与所有的技术革命一样，人 姆·阿尔特曼在美国参议院司法 历史上曾广泛促进了知识传播的 工智能将对就业产生重大影响。 机构隐私、技术和法律小组委员 “印刷机”，但如果不能及时识 GPT-4和其他类似的人工智能系统 会举行的第一次关于人工智能监 别和管理其潜在风险，不但可能 只是擅长完成任务，而不是像人 管的国会听证会上提出了人工智 不会带来繁荣，未来该领域的技 类一样工作。现在是发展人工智 能监管的未来框架。阿尔特曼对 术突破还意味着人工智能将产生 能的绝佳时机。技术历史实际上 人工智能存在的风险层次认识清 如原子弹般困扰人类的严重而可 是一场长期的技术革命。技术革 晰，认为人工智能风险主要在于 怕的后果。目前生成式人工智能 命一直在连续地发生。人类创造 大型人工智能模型，人工智能监 令人们担心的问题主要是生成内 的机器和工具一直在帮助人们过 管主要应当针对大企业。政府和 容的准确性、被生成内容欺骗、 上更美好的生活，同时提高了人 行业需要共同努力来管理风险， 虚假信息、隐私和影响就业等， 们的工作标准。技术革命之后往 同时确保人们能够享受到技术带 可是一旦某一天超级强大的系统 往会有更多的工作，而且工作会 来的福祉。人工智能监管将关系 出现，人们所面对的风险层次就 变得更好。人们在借助GPT-4以完 科技中国 2023年8月 第8期 97 全自动化的方式高效完成工作的 管减慢美国人工智能产业发展的 一些措施激励企业遵守这些针对 同时，还将创建一些更好的新工 速度，以至于被中国或其他国家 人工智能的专门安全要求。 作。 超过。美国必须继续领导AI技 四、重点对掌握最前沿能力 因此，政府和行业必须共同 术。通过开展