全球生成式人工智能监管研究报告.docxVIP

目录 一、生成式人工智能监管地图 1 二、主要地区监管概述 2 （一）中国 2 （二）欧盟 2 （三）美国 6 （四）加拿大 7 （五）英国 9 （六）澳大利亚 11 （七）印度 12 （八）日本 13 （九）新加坡 14 （十）中国香港 16 三、中国 17 （一）监管对象 17 （二）监管部门 18 （三）合规义务要求 18 （四）未来可能面临的监管挑战 19 四、欧盟 21 （一）监管框架 21 （二）一般合规义务 24 （三）特殊合规义务 29 （四）监管动态 31 （五）相关机构 32 五、美国 34 （一）监管框架 34 （二）一般合规义务 37 （三）特殊合规义务 39 （四）监管动态 40 （五）相关机构 41 六、加拿大 42 （一）监管框架 42 （二）一般合规义务 43 （三）监管动态 48 （四）相关机构 49 一、生成式人工智能监管地图 截止 2023 年 7 月 24 日，我们依据对全球生成式人工智能监管动向的梳理， 绘制了监管地图： 红色区域表明该地区目前已经或即将建立成熟且较为严格的监管制度，主要包括欧盟、加拿大和中国； 橙色区域表明该地区目前对生成式人工智能产品存在一定的限制和监管要求，例如美国； 黄色区域表明该地区目前还没有相关制度，但是监管机构未来有计划对生成式人工智能制定规则，例如英国、澳大利亚和印度； 绿色区域表明该地区目前没有相关制度，且监管机构也倾向于在未来不采取强制性的监管措施，例如新加坡、日本、中国香港。 注：地图颜色仅表明不同地区在生成式人工智能领域法律监管的程度。 二、主要地区监管概述 （一）中国 中国监管机构从 2021 年起加强了对人工智能的监管，并陆续发布了《互联网信息服务算法推荐管理规定》（“算法推荐规定”）《互联网信息服务深度合成管理规定》（“深度合成规定”）和《生成式人工智能服务管理暂行办法》（“生成式办法”）三部重要的部门规章。这三部规章都可能适用于向中国境内公众提供的生成式人工智能服务。而在未来，中国还可能制定层级更高的《人工智能法》， 并落实科技伦理审查制度。 与此同时，这三部规范也确立了中国将采取“包容审慎的分类分级监管”原则。在未来，国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域 的服务应用，将制定相应的分类分级监管规则或者指引。 目前负责算法备案、评估与监管的机构主要是网信办（中央网信办网络管理技术局）。与此同时，电信主管部门、公安部门也会依据职责负责监督管理工作。 针对生成式人工智能的主要合规义务： （二）欧盟 欧盟现行人工智能立法仍主要集中在传统人工智能而非生成式人工智能上， 但也逐渐触及生成式人工智能的问题，例如在最新的《人工智能法》草案中规定了通用及生成式人工智能相关基础模型提供者的义务。 欧盟的人工智能路径主张“以人为本（human-centric）”，在促进人工智能发展与创新的同时，构建监管体系以防范风险、保护公民基本权利和安全。 欧盟目前对于人工智能的监管和治理重点在于尊重人格尊严、个人自由和保护数据及隐私安全。最新的立法进展是 2023 年 6 月 14 日欧洲议会对《人工智能法》的修订。该法采用“基于风险的方法”（risk-based）将人工智能系统分成四类， 制定了不同程度的合规要求。其中，生成式人工智能系统一般属于有限风险的人工智能系统，需遵守最低限度的透明度义务，但可能会因其适用的领域和生成的内容而落入高风险人工智能系统的范畴。 1 与此同时，该法也规定了提供者、进口商、分销商、部署者、通用及生成式人工智能相关基础模型提供者等不同主体的合规义务。 个人公司将禁止的人工智能系统投放市场或投入使用 个人 公司 将禁止的人工智能系统投放市场或投入使用 最高可被处 4000 万欧元罚款 罚款 4000 万欧元或上一财政年度全球年营业额的 7%（以较高者为准） 不遵守高风险人工智能系统关于数据治理、透明度和提供信息给用户的规定 最高可被处 2000 万欧元罚款 罚款 2000 万欧元或上一财政年度全球年营业额的 4%（以较高者为准） 1 European Parliament News: https://www.europarl.europa.eu/news/en/headlines/societyTO93804/e u-ai-act-first-regulation-on-artificial-intelligence 违反其他对于人工智能系 统或模型的要求和义务 最高可被处 1000 万 欧元罚款 罚款 1000 万欧元或上一财政年度全球 年营业额的