Deepseek提升科研过程性研究.pdf

DeepSeek提升科研过程性研究

凌晓

清华大学博士

目录CONTENTS

010203

AIGC简史Deepseek为何物赋能科学研究

01

AIGC简史

今天的生活有什么改变

AI的诞生

1950年

艾伦·图灵发表了论文计算机器与智能，提出了著名的图灵测试，

标志着AI的正式诞生

1956年

达特茅斯会议上，人工智能一词首次被提出，标志着AI作为一个学

科的正式确立

AIGC技术演变

12014年：GANs的诞生

l生成器和判别器的对抗学习，开启了AI创造性内容生成的新纪元

22017年：Transformer架构问世

l基于自注意力机制，极大地提升了自然语言处理能力

32022年：DALL-E和StableDiffusion

l从文本生成图像，在创意设计、艺术创作等领域展现出巨大潜力

42023年：ChatGPT惊艳亮相

l展示了惊人的文本生成能力，震惊世界，从此迈入了大模型时代

52024年：Deepseek后起之秀

l7天用户量破亿，性能吊打ChatGPTo1等顶尖模型，成为国产之光

AI三境界

“开悟”“涌现”“思维链”

GrokkingEmergenceChain-of-

Thought

“开悟”Grokking

训练

精

确

度生成性发挥

优化步数

这是量变产生质变，研究者把这个现象成为“开悟”Grokking

“涌现”Emergence

ScalingLaw大力出奇迹

每个神经元都是简单的

可是大脑产生了意识

大模型涌现的超能力：

小样本学习

推理分析

大规模多任务处理

情感认知......

上述能力只有模型参数

超过1000亿才会出现

“思维链”Chain-of-Thought

只要设置好让模型每次都先思考一番

再挥发，它就能自动使用思维链，它

就有了思考能力

ShaohanHuang,LiDong,WenhuiWang,et

al.,LanguageIsNotAllYou