- 1
- 0
- 约小于1千字
- 约 10页
- 2026-11-13 发布于四川
- 举报
课堂研讨
自然语言处理
课堂讨论
从语言表征到大模型范式
日期
2026年
课程导览
语言与表征
01
语言与表征
词的意义在于它的用法
从符号到分布式表示
困境
独热表示的困境——每个词对应一个高维向量,只在自身位置取1,其余全为0。
词不再是冷冰冰的编号,而是嵌入连续向量空间中的一个点——语义关系开始能用几何距离度量。
词向量如何捕捉语义
上下文相关的词表示
注意力机制
02
序列建模与注意力
注意力就是一切
循环网络的贡献与局限
注意力机制重写序列建模
Transformer的架构选择
03
预训练与微调
先学通用,再学专用
预训练如何改变范式
从微调到上下文学习
三种适配大模型任务的方式,面向不同资源条件的选择。
大模型的能力与边界
总结升华
04
讨论与展望
问题比答案更重要
课堂讨论的核心议题
走向更开放的讨论
THANKS
让语言被机器理解
理解语言,就是理解智能本身
自然语言处理的课堂,从表征走向讨论
THANKSFORLISTENING
原创力文档

文档评论(0)