800-2024生成式AI应用程序安全测试和验证标准（英译中）-WDTA-75页_2.pdf

世界数字技术学院(WDTA)

生成式AI应用程序安全测试和验证标准

世界数字技术学院标准

WDTAAI-STR-01

版本:2024-04

©WDTA2024-保留所有权利。

世界数字技术标准WDTAAI-STR-01被指定为WDTA规范。本文件是世界数字技术学院

(WDTA)的财产，受国际版权法保护。未经WDTA事先书面许可，禁止使用本文档，包括

复制、修改、分发或重新发布。WDTA不对本文档中的任何错误或遗漏负责。

/了解更多WDTA标准和相关出版物。

版本历史记录*

标准ID版本日期变更

WDTAAI-STR-011.02024-04初始版本

前言

世界数字技术学院(WDTA)致力于成为全球数字技术创新的开拓者，与作为非政府组织的联合

国框架保持一致。WDTA坚持其3s原则-速度，安全，共享-致力于加速数字规范的创建，带头

研究，鼓励国际合作，并保持技术进步的领先地位。

通过合作努力，WDTA致力于推动数字技术的发展，以改善社会。AISTR(安全，信任，责任)

计划是WDTA国际计划的核心部分，旨在解决人工智能系统扩散带来的复杂挑战。认识到AI技

术在全球范围内的快速扩展和整合，AISTR站在全球技术进步的最前沿。

本标准文档提供了一个框架，用于测试和验证生成式AI应用程序的安全性。该框架涵盖了AI

应用程序生命周期中的关键领域，包括基本模型选择，检索增强生成设计模式中的嵌入和矢量

数据库，提示执行/推理，代理行为，微调，响应处理和AI应用程序运行时安全性。主要目标

是确保AI应用程序在其整个生命周期中按照其预期设计安全运行。通过为AI应用程序堆栈的

每一层提供一套测试和验证标准和指南，重点关注安全性和合规性，本文档旨在帮助开发人员

和组织增强使用llm构建的AI应用程序的安全性和可靠性，减轻潜在的安全风险，提高整体质

量，促进负责任地开发和部署人工智能技术。

AISTRAI

计划代表了我们如何处理技术的开发和部署的范式转变。倡导人工智能系统中的安

全、信任和责任，为更道德、安全和公平的数字未来奠定了基础，在未来，人工智能技术是进

步的推动者，而不是不确定性和伤害的来源。生成式AI应用程序安全测试和验证标准是AI

STR标准之一。

WDTA执行主席

致谢

WDTAAISTR工作组联合主席

黄肯(CSAGCR)尼克汉·

密尔顿(OpenAI)约西亚·

伯克(Anthorphic)

主要作者

黄肯(CSAGCR)

希瑟·弗雷泽(乔治敦大学)

黄杰瑞(KleinerPerkins)

LeonDerczynski(Nvidia)

杰克逊克里斯托(A)(加州大学伯克利分校)

PatriciaThaine(私人AI)

GovindarajPalanisamy(全球支付公司)

VishwasManral(Precize.ai)

胡庆(Meta)

道森广告(OWASP®基础)

AmitElazari(OpenPolicy)

ApostolVassilev(国家标准与技术研究所)

李(芝加哥大学)

审阅者

CariMiller(包容性变革中心)

丹尼尔·奥特曼(Google)

宋黎明加州大学伯克利分校()

施吉恩(学习精灵)

郭建玲百度()

黄静(科大讯飞)

JohnSotiropoulos(Kainos)

JosiahBurke(Anthropic)

LarsRuddigkeit(Microsoft)

GuanchenLIN(AntGroup)

MelanXU(世界数字技术学院)Nathan

VanHoudnos(卡内基梅隆大学)NickHamilton

(OpenAI)

RobvanderVeer(软件改进组)SandyDunn

(BreachQuest，被Resilience收购)SeyiFeyisetan

(亚马逊)

沈玉石(NovNet计算系统科技有限公司)

郭松香港