OpenAI o1技术原理解析-2024全球机器学习技术大会.pdf

2024全球机器学习技术大会（北京站）主题涵盖大语言模型技术演进、多模态大模型前沿、大模型工程与架构、大模型应用开发实践、AI智能代理、代码大模型等12个热门专题，力求为全球开发者、研究人员、行业技术人员提供全方位、多角度的技术交流平台。

2024全球机器学习技术大会（北京站）主题涵盖大语言模型技术演进、多模态大模型前沿、大模型工程与架构、大模型应用开发实践、AI智能代理、代码大模型等12个热门专题，力求为全球开发者、研究人员、行业技术人员提供全方位、多角度的技术交流平台。

2024全球机器学习技术大会（北京站）主题涵盖大语言模型技术演进、多模态大模型前沿、大模型工程与架构、大模型应用开发实践、AI智能代理、代码大模型等12个热门专题，力求为全球开发者、研究人员、行业技术人员提供全方位、多角度的技术交流平台。

张俊林

新浪微博首席科学家、新技术研发负责人

中国中文信息学会理事，中科院软件所博士。目前担任新浪微博技术研发负责人，

在此之前在阿里巴巴担任资深技术专家，负责新技术团队。《这就是搜索引擎：核

2024全球机器学习技术大会（北京站）主题涵盖大语言模型技术演进、多模态大模型前沿、大模型工程与架构、大模型应用开发实践、AI智能代理、代码大模型等12个热门专题，力求为全球开发者、研究人员、行业技术人员提供全方位、多角度的技术交流平台。

心技术详解》、《大数据日知录：架构与算法》的作者，目前主要研发兴趣集中在

推荐系统及自然语言处理

演讲主题：

OpenAIo1技术原理解析

OpenAIo1技术原理解析

2024全球机器学习技术大会（北京站）主题涵盖大语言模型技术演进、多模态大模型前沿、大模型工程与架构、大模型应用开发实践、AI智能代理、代码大模型等12个热门专题，力求为全球开发者、研究人员、行业技术人员提供全方位、多角度的技术交流平台。

张俊林

新浪微博

OpenAIo1模型的意义

2024全球机器学习技术大会（北京站）主题涵盖大语言模型技术演进、多模态大模型前沿、大模型工程与架构、大模型应用开发实践、AI智能代理、代码大模型等12个热门专题，力求为全球开发者、研究人员、行业技术人员提供全方位、多角度的技术交流平台。

o1的可能训练过程

强化学习与LLM融合构造o1模型

大模型的“思考快与慢”

人类大脑擅长快思考的系统1和擅长慢思考的系统2，GPT4类似于大脑中的系统1，OpenAIo1类似于大脑中的系统2。

2024全球机器学习技术大会（北京站）主题涵盖大语言模型技术演进、多模态大模型前沿、大模型工程与架构、大模型应用开发实践、AI智能代理、代码大模型等12个热门专题，力求为全球开发者、研究人员、行业技术人员提供全方位、多角度的技术交流平台。

人类大脑的两套系统

o1大幅提升了大模型的复杂逻辑推理能力

O1相对GPT4o在数学竞赛、高难度编程竞赛、博士级专业能力方面成绩获得大幅提升

2024全球机器学习技术大会（北京站）主题涵盖大语言模型技术演进、多模态大模型前沿、大模型工程与架构、大模型应用开发实践、AI智能代理、代码大模型等12个热门专题，力求为全球开发者、研究人员、行业技术人员提供全方位、多角度的技术交流平台。

复杂逻辑推理能力的极大提升

强化学习ScalingLaw（1/2）

ScalingLaw是驱动最近几年大模型发展的主要因素，目前面临因数据短缺而曲线开始平缓的阶段，不可持续。