定向幻觉：生成式AI时代的供应链攻击与主动防御.docxVIP

定向幻觉：生成式AI时代的供应链

攻击与防御

ORIGIN

生成式AI的时代下的我们

过去这段时间发生了……

为什么选择GEO？GEO又是什么？

生成式引擎优化（GenerativeEngineOptimization）

专门针对AI大模型做的内容优化，让AI能够读懂、信任、采信这段信息，并且在回答用户问题时，主动引用、输出这些内容。

如今大家直接向各类AI工具提问，AI会自动整合全网信息，直接给出完整答案，全程不需要点开任何网页。

GEOGenerativeEngineOptimization

GEO

GenerativeEngineOptimization

生成式引擎优化

SearchEngineOptimization

搜索引擎优化

排名输出结果排名搜索结果

排名输出结果

什么是定向幻觉？他和传统的月?幻觉有啥区别？

传统的月?幻觉是指大语言模型在不经意间，不可控的随机性的，编造其认为看似合理、实则错误或不存在的信息。

传统月?幻觉的成因

数据层

①噪声注入：高频错误--高概率的真实

②时效衰弱：基于过时的模式进行外推

③偏见放大:训练数据反映历史性偏见架构层缺陷：

TΓaΠsfoΓmeΓ自回归生成

①单向表征局限②误差累积效应RLHF三阶段：

SFT→奖励模型训练→PPO优化

定向幻觉≠投毒