人工智能安全与数据隐私手册.docxVIP

安全与数据隐私手册

第1章

系统架构与数据流向

1.1核心算法模型与训练数据边界

在构建大（LLM）时，必须严格区分“预训练数据”与“推理数据”的边界。预训练数据用于模型在海量文本中学习通用语言规律，而推理数据仅用于特定任务，严禁混用。若将训练数据中的敏感隐私信息（如身份证号、医疗记录）注入推理数据流，会导致模型产生“记忆”并泄露原始数据。针对图像模型，需划定“参考图”与“图”的界限。参考图包含版权受保护的内容或私人照片，而图必须经过严格的去水印和隐私擦除处理。经验表明，若未对图进行像素级清洗，攻击者可通过逆向工程还原参考图中的敏感信息。

在音频合成模型中，应明确“原始语音”与“合成音轨”的分离。原始语音包含实时采集的敏感指令或录音，合成音轨则是模型的声音内容。若未做隔离，攻击者可通过分析合成音轨中的声纹特征，还原出原始语音内容。对于代码模型，需严格区分“私有代码库”与“公共知识库”。私有代码库包含企业核心算法和，公共知识库包含通用技术文档。若允许将私有代码泄露至公共知识库，可能导致模型学会窃取企业的商业机密和核心逻辑。在视频模型中，必须设置“原始素材”与“合成片段”的防火墙。原始素材包含未授权拍摄的画面或人脸，合成片段则是模型的视频。若未做分离，攻击者可能通过合成片段中的特定光影特征，反向推导出原始素材的拍摄角度和场景。

数据边界划分需遵循“最小必要原则”，仅收