1. 您所在位置：
  2. 网站首页
  3. 文档分类
  4. 外语学习
  5. 语法学习

高教社课件语言模型5章-A.pdfVIP

  • 0
  • 0
  • 约6.73万字
  • 发布于广东
  • 举报
  • 文档已下架，其它文档更精彩

高教社课件语言模型5章-A.pdf

    语言模型：预训练语言模型(一)

    刘均

    西安交通大学计算机学院

    liukeen@

    2026年6月18日

    主要内容

    1概述4预训练

    2尺度律与涌现能力5微调

    3体系架构6人类对齐

    概述2/125

    预训练语言模型(PretrainedLanguageModel，PLM)

    神经语言模型的局限性

    采用监督学习方式进行训练，需要大量标注数据，但数据标注既昂贵又耗时。

    捕捉长距依赖关系的能力较为有限。

    通常针对特定任务，泛化能力有限，很难适应不同领域、不同任务。

    您可能关注的文档

    最近下载

    知传链电子书

    文档评论（0）

    1亿VIP精品文档

    更多 >

    相关文档

    更多 >