AI人工智能安全特点.docxVIP

一、AI公司 1.成都阿加犀智能科技公司：AI开发平台AI Creator （1）AI安全：自身安全（可靠性、可用性与稳定性）、保障运行安全（运行时的机密性与完整性）、助力安全（安全管控力、认可度与合规性）。 （2）可信、可用、好用 2. 中国科学院信息安全国家重点实验室：副主任陈恺提出“神经网络手术刀”方法，通过定位引发错误的神经元，只需极少量或无需数据样本，能大幅提升模型修复效果，进行精准“微创”修复。 传统模型修复方法：重新训练模型，或依赖于较大量的数据样本。 “微创手术”修复方法：只需极少量或无需数据样本，能够大幅提升模型修复效果。如“对后门来说，比传统方法修复攻击成功率降到0.8%”。 （1）AI安全技术：AI安全性测试技术，AI安全性分析技术，AI安全性加固完整技术。深度伪造技术。 （2）AI安全标准化测试流程：数据、算法、系统（软硬件）。 （3）安全可信计算环境： 3. 北京航空航天大学：软件开发环境国家重点实验室副主任刘祥龙。 如何解决通用AI算法全周期安全保障问题，北京航空航天大学软件开发环境国家重点实验室副主任刘祥龙认为，目前AI算法及系统的安全性：缺乏科学评测手段，难以有效评测完整的AI模型和算法能力。从技术上来看，应形成从安全性测试到安全性分析与安全性加固的完整技术手段，最终形成标准化的测试流程。 未来的AI安全应该围绕从数据、算法到系统各个层次上的全面评测