09_挑战_安全边界与治理.docxVIP

电力行业AI转型·行业研究报告

第PAGE页/共NUMPAGES页

电力行业AI转型

挑战与边界：AI在电力中的安全治理

幻觉、数据安全、人机责任、标准缺失——转型不能逾越的底线

行业研究报告·专题篇

数据来源：国家能源局、国家发改委、国家电网、南方电网及公开资料整理

编制日期：2026年8月

一、四类核心挑战

（一）可靠性与“幻觉”风险

AI的“幻觉”问题在办公场景尚可容忍，但在电力调度、保护控制等敏感领域，一旦数据错误或趋势误判，将引起严重后果。大模型迭代快、安全性难以完全保证，传统模型可解释性不足，可能出现偏离实际工况的错误判断，或无法清晰说明误差来源，阻碍了AI在电力核心业务场景的延伸。

（二）数据安全与隐私

电力数据包含电网拓扑、用户用电隐私等敏感信息，在数据加密与访问控制方面存在泄露、篡改风险，可能影响电网运行安全。企业出于商业机密、数据安全顾虑难以共享生产运行数据，导致高质量行业数据缺乏，AI模型无法得到有效训练。

（三）人机责任边界

火电运行长期依赖老师傅经验判断，AI建议与人工经验冲突时，需要厘清人机责任边界。“智能吹灰系统目前停留在推荐建议阶段，要让系统直接自动吹灰，技术上可行，但大家心里没底——万一误判，谁负责？”这种信任机制与责任界定的缺失，是闭环控制难以落地的重要原因。

（四）标准缺失与生态分散

当前电力系