大模型生成策略对比分析.pdf

⼤模型⽣成参数配置

⽬前最常⽤的⽅法,主要有贪⼼搜索(Greedysearch)、波束搜索(Beamsearch)、Top-K采样

(Top-Ksampling)以及Top-p采样(Top-psampling)。

1.贪⼼搜索

贪⼼搜索在每个时间步t都简单地选择概率最⾼的词作为当前输出词:wt=argmaxwP(w∣w1:t−1)

,如下图所⽰。

从单词“The”开始,算法在第⼀步贪⼼地选择条件概率最⾼的词“nice”作为输出,依此往后。最终

⽣成的单词序列为(“

文档评论(0)

1亿VIP精品文档

相关文档