2025年国际人工智能安全报告-执行摘要 .docxVIP

国际人工智能安全报告

先进人工智能安全国际科学报告

2025年1月

1 《先进人工智能安全国际科学报告》2025年1月

贡献者

主席

YoshuaBengio教授,蒙特利尔大学/Mila-魁北克人工智能研究所专家顾问小组

该国际小组成员由下列30个国家的政府、联合国、欧盟和经合组织提名。

澳大利亚：BronwynFox，新南威尔士大学

巴西：AndréCarlosPoncedeLeonFerreiradeCarvalho，圣保罗大学数学与计算机科学研究所

加拿大：MonaNemer，加拿大首席科学顾问

智利：RaquelPezoaRivera，费德里科圣玛丽亚理工大学

中国：曾毅，中国科学院

欧盟：JuhaHeikkil?，欧洲人工智能办公室

法国：GuillaumeAvrin，法國国家人工智能协调机构

德国：AntonioKrüger，德国人工智能研究中心

印度：BalaramanRavindran，印度理工学院马德拉斯分校瓦德瓦尼数据科学与人工智能学院

印度尼西亚：HammamRiza，人工智能合作研究与工业创新（KORIKA）

爱尔兰：CiaránSeoighe，爱尔兰研究中心

以色列：ZivKatzir，以色列创新局

意大利：AndreaMonti，意大利部长理事会主席国数字化转型副国务卿的法律专家

日本：北野宏明，索尼集团公司

肯尼亚：NusuMwamanzi，信息通信技术和数字经济部

沙特阿拉伯王国：FahadAlbalawi，沙特数据和人工智能管理局局长

墨西哥：JoséRamónLópezPortillo，LobsterTel

荷兰：HaroonSheikh，荷兰政府政策科学委员会

新西兰：GillJolly，新西兰商业、创新和就业部

尼日利亚：OlubunmiAjala，尼日利亚通信、创新和数字经济部

经济合作与发展组织：JerrySheehan，科学、技术和创新局主任

菲律宾：DominicVincentLigot，CirroLytix

韩国：KyoungMuLee，首尔国立大学电子与计算

机工程系

2

前言

卢旺达：CrystalRugege，卢旺达国家人工智能和创新政策中心

新加坡：DeniseWong，新加坡资讯通信媒体发展局数据创新与保护小组

西班牙：NuriaOliver，ELLISAlicante

瑞士：ChristianBusch，瑞士联邦经济、教育与研究部

土耳其：AhmetHalitHatip，土耳其工业和技术部

乌克兰：OleksiiMolchanovskyi，乌克兰人工智能开发专家委员会

阿联酋：MarwanAlserkal，阿联酋内阁事务部、总理办公室

英国：ChrisJohnson，英国科学、创新和技术部首席科学顾问

联合国：AmandeepSinghGill，联合国数字和新兴技术副秘书长兼秘书长技术问题特使

美国：SaifM.Khan，美国商务部

科研首席专家

S?renMindermann，Mila-魁北克人工智能研究所

首席撰稿人

DanielPrivitera，KIRA中心

撰稿团队

TamayBesiroglu，EpochAI

RishiBommasani，斯坦福大学

StephenCasper，麻省理工学院

YejinChoi，斯坦福大学

PhilipFox，KIRA中心

BenGarfinkel，牛津大学

DanielleGoldfarb，Mila-魁北克人工智能研究所

HodaHeidari，卡内基梅隆大学

AnsonHo，EpochAI

SayashKapoor，普林斯顿大学

LeilaKhalatbari，香港科技大学

ShayneLongpre，麻省理工学院

SamManning，人工智能治理中心（CentrefortheGovernanceofAI)

VasiliosMavroudis，艾伦图灵研究所

3

前言

MantasMazeika，伊利诺伊大学香槟分校

JulianMichael，纽约大学

JessicaNewman，加州大学伯克利分校

吴君仪，安远AI

ChinasaT.Okolo，布鲁金斯学会

DeborahRaji，加州大学伯克利分校

GirishSastry，独立人士

VidushiMarda，人工智能Collaborative控股有限公司

ElizabethSeger（通才作家），Demos

TheodoraSkeadas,HumaneIntelligence

TobinSouth，麻省