Transformer模型诞生及其作者去向.pdfVIP

142｜Transformer模型诞生的故事

欢迎回到《科技参考》，我是

2024年3月18日，英伟达举办了今年的开发者大会，这次会议的主

题就是AI，参展商200多家，20多场。哪怕是亲自登场的

很多也都是商业互吹，但唯独有一场讨论干货密集，那就是

和7个人的对聊。

这7个人就是Transformer模型这篇8个作者中的7个。这个模

型当年是以的形式的，名称叫《AttentionisAllYou

Need》，它并不是“只需要全神贯注”的意思，而应该翻译成“只需

要关注自注意力机制”。

如果说今天所有的只有一个的共同祖先，这个祖先就是这

篇。而把这篇全部8位作者中的7位邀请来一起，

实在是抓人眼球。

我们之前提到谷歌时也说到过，Transformer模型的8位作者，如

今全都从谷歌出走了，谷歌创造了这么