生成式AI规范赋能科学研究的欧盟借鉴.docx

生成式AI规范赋能科学研究的欧盟借鉴

摘要：欧盟委员会发布的《科研领域负责任使用生成式人工智能指南》针对研究人员、研究机构及研究资助机构等不同主体提出建议，为科研实践提供明确的操作指导。该指南对我国生成式人工智能的科研应用有较好的借鉴价值，因此本文提出以下启示：应尽快制订适用于科学研究场景的专门规范或指南；强化科研数据保护机制，提升网络安全水平；完善组织架构，确保生成式人工智能应用的有效监管。

中图分类号：G434文献标识码：A论文编号：1674-2117（2024）23-0000-04

生成式人工智能，作为一种颠覆性的技术，正在对经济社会的发展产生深远的影响。[1]它通过模拟人类的思维和创造力，能够自动生成新的信息、产品和服务，从而推动经济社会的全面变革。科学研究是推动经济社会发展的关键因素，它通过探索未知、创新技术、培养人才和促进国际合作，为社会进步提供动力。高校作为科学研究的高地，不仅在学术领域具有重要地位，而且在推动社会进步和经济发展中也起着关键作用。因此，如何更加科学、规范地推动生成式人工智能赋能高校科学研究是世界各国正面临的一个重要的现实问题。

《指南》的主要内容

在具体内容上，《指南》分别针对研究人员、研究机构和研究资助机构科学合理地使用生成式人工智能提出了建议。

1.对科学研究人员的建议

《指南》对科学研究人员主要提出以下六点建议：①科研人员对科研成果负最终责任。科研人员需对由人工智能工具生成或在其支持下生成的内容的完整性负责；对使用生成式人工智能所产生的结果应保持批判的态度，并意识到这些工具的局限性，如偏差、幻觉和不准确性；明确人工智能系统既不是作者，也不是共同作者；不能在科学研究过程中使用生成式人工智能创建的捏造材料，如伪造、篡改或操纵原始研究数据。②透明地使用生成式人工智能。科研人员应详细说明在研究过程中主要使用了哪些生成式人工智能工具；应披露或讨论所使用的生成式人工智能工具的局限性，包括生成内容中可能存在的偏差，以及可能的缓解措施。③在与人工智能工具共享敏感或受保护信息时，要特别注意隐私、保密及知识产权相关的问题。科研人员应保护未发表或敏感的作品，不要将其上传到在线人工智能系统中，除非能保证这些数据不会被重复使用；不应向在线生成式人工智能系统提供第三方的个人数据，除非得到数据主体（个人）的同意；应了解有关隐私、保密和知识产权的技术和道德影响。④尊重适用的国家、欧盟和国际立法。科研人员在使用生成式人工智能的输出结果时，要避免剽窃的可能，尊重他人的著作权；有责任妥善处理生成式人工智能输出的任何个人数据，并遵守欧盟数据保护规则。⑤不断学习生成式人工智能工具的正确使用方法。生成式人工智能工具发展迅速，不断有新的使用方法涌现，科研人员要及时了解最佳实践，并与其他利益相关者分享。⑥避免在可能影响他人的敏感活动中大量使用生成式人工智能工具。避免使用生成式人工智能工具，导致不公平待遇或潜在的评估风险；保护科研人员未发表的原创作品，使其免于暴露或被纳入人工智能模型。

2.对科研机构的建议

《指南》对科研机构主要提出以下四点建议：①促进、指导和支持研究人员在研究活动中负责任地使用生成式人工智能工具。生成式人工智能工具的使用不仅涉及对技术能力的掌握，还涉及对相关伦理和法律要求的深刻理解。科研机构应提供和促进关于使用生成式人工智能工具的培训，确保生成式人工智能工具的使用符合道德和法律要求。②监督组织内生成式人工智能系统的开发和使用情况。科研机构应重视机构内使用生成式人工智能工具的研究活动和流程，以便为生成式人工智能的使用提供进一步指导，确定培训需求。同时，还应分析生成式人工智能技术和工具的局限性，并向科研人员提供反馈和建议。③将生成式人工智能相关指南纳入研究实践和伦理的一般研究指南中。科研机构可以生成式人工智能相关指南为基础，制订生成式人工智能的使用相关规定，并向科研人员和利益相关者征求意见；应尽可能以生成式人工智能相关指南为指导。④在可能和必要的情况下，对生成式人工智能工具施行本地托管或基于云的管理。本地托管或云管理能够防止数据泄露和未授权访问，这是保护敏感信息不被滥用的关键措施。这种管理策略不仅符合数据保护法规，而且对提升研究可信度及科研机构责任感至关重要。科研人员可将其科学数据保存到能保障数据安全的工具中，科研机构应确保这些系统达到相应的网络安全水平。

3.对科研资助组织的建议

《指南》对科研资助组织提出以下四点建议：①促进和支持在研究中负责任地使用生成式人工智能。科研资助组织设计的资助工具应开放、易于接受，并支持科研人员负责任、合乎道德地使用生成式人工智能技术；应要求受资助的研究机构和受资助者，鼓励科研人员和研究机构遵守现有的法律、研究标准，合乎道德和负责任地使用生成式人工智能技术。②审查生成式人工智能在其内部流程