自主可信计算筑牢人工智能安全底座.pdfVIP

院士谈科普AcademicianTalksaboutSciencePopularization

自主可信计算筑牢人工智能安全底座

◎中国工程院院士、中央网信办专家咨询委员会顾问沈昌祥

会带来了不利影响。应对未知恶意攻击的能力，从而有

一方面，大模型继承了深度学效保障国家网络空间的安全。

习的“黑盒子”特性，复杂的参数中国在可信计算的发展上做出

与神经网络结构使得决策和推理过的战略部署可谓高瞻远瞩。自1992

程难以透明，从而可能引发虚假、年立项研制免疫的综合安全防护系

偏见、侵权及伦理问题。另一方面，统以来，我们形成了自主创新的安

海量数据的处理也伴随着数据安全全可信体系，开启了可信计算3.0

风险，隐私泄露、侵权及恶意利用时代。如今，可信计算已广泛应用

等问题层出不穷。于国家重要信息系统，如增值税防

面对这些挑战，我们急需一种伪、彩票防伪、二代居民身份证安

能够保障信息系统可预期性的技全系统等，为国家安全和社会稳定

术——可信计算，也就是在计算的提供有力保障。

党的二十大报告对加快建设网同时进行安全防护，确保计算结果以国家电网电力调度系统的安

络强国作出重要战略部署，网络强与预期一致，全程可测可控，不受全防护建设为例，如今，我们的电

国建设已成为社会主义现代化国家外界干扰。这一技术将人类社会中力可信计算密码平台已在34个省级

建设的重要内容。随着网络空间崛行之有效的管理策略应用于计算机以上调度控制中心得到广泛应用，

起为继陆、海、空、天之后的第五信息系统及网络环境中，通过建立覆盖上千套地级以上电网调度控制

大主权领域，我国面临着日益严峻信任根和信任链，层层递进，将信系统，涉及十几万个节点、约四万

的网络安全挑战。任关系扩展到系统的每一个角落，座变电站和一万座发电厂。这一举

当前，人工智能发展如火如荼，从而确保整个系统的可信度。措有效抵御了各种网络恶意攻击，

其在赋能人类社会、加快发展新质在保证计算可信的同时，技术确保电力调度的安全运行。相比之

生产力、创建虚实融合新型网络空自主也是必要条件。中央“市场准下，美国热推的“零信任架构”仅

间的同时，正逐渐衍生出可能危及入十条”（《关于完善市场准入制度相当于可信计算3.0的一个访问控

国家安全和人类安全的重大风险。的意见》）中的“自主可信计算”制功能子集，存在诸多问题，如架

在推进网络强国建设的过程中，确不是泛指可信计算技术，而是指源构漏洞多、缺乏科学原理支撑、网

保人工智能技术的安全可控，防范自中国、完全自主的可信计算技络无边界、不符合主权原则等。