Infinity Instruct 合成指令技术的探索-2024全球机器学习技术大会.pdf

2024全球机器学习技术大会（北京站）主题涵盖大语言模型技术演进、多模态大模型前沿、大模型工程与架构、大模型应用开发实践、AI智能代理、代码大模型等12个热门专题，力求为全球开发者、研究人员、行业技术人员提供全方位、多角度的技术交流平台。

2024全球机器学习技术大会（北京站）主题涵盖大语言模型技术演进、多模态大模型前沿、大模型工程与架构、大模型应用开发实践、AI智能代理、代码大模型等12个热门专题，力求为全球开发者、研究人员、行业技术人员提供全方位、多角度的技术交流平台。

2024全球机器学习技术大会（北京站）主题涵盖大语言模型技术演进、多模态大模型前沿、大模型工程与架构、大模型应用开发实践、AI智能代理、代码大模型等12个热门专题，力求为全球开发者、研究人员、行业技术人员提供全方位、多角度的技术交流平台。

刘广

智源基础数据研究组负责人

北京邮电大学智能科学与技术博士，北京智源人工智能研究院基础数据研究组负责人，

有悟道·天鹰Aquila系列基础模型(7B/34B/8x16B)开发和开源经验，在人工智能领域

2024全球机器学习技术大会（北京站）主题涵盖大语言模型技术演进、多模态大模型前沿、大模型工程与架构、大模型应用开发实践、AI智能代理、代码大模型等12个热门专题，力求为全球开发者、研究人员、行业技术人员提供全方位、多角度的技术交流平台。

学术会议和期刊上发表论文，现在关注高质量数据合成技术等研究方向。

演讲主题：

InfinityInstruct合成指令技术的探索

InfinityInstruct:合成指令技术的探索

2024全球机器学习技术大会（北京站）主题涵盖大语言模型技术演进、多模态大模型前沿、大模型工程与架构、大模型应用开发实践、AI智能代理、代码大模型等12个热门专题，力求为全球开发者、研究人员、行业技术人员提供全方位、多角度的技术交流平台。

北京智源人工智能研究院

报告人：刘广

ChatGPT引发大模型浪潮

•1990年网络浏览器诞生，但直到1994年网景（NetscapeNavigator）浏览器的出现，

使大众上网变成了可能，互联网时代才真正到来。

•2023年

•1993年智能手机诞生，但直到2007年苹果推出iPhone手机，大量智能手机应用程序出

现，移动互联网时代才真正到来。

•2022年11月30日，OpenAI面向公众开放ChatGPT服务，人工智能从技术圈走向全民讨

论，迎来了人工智能的网景/iPhone时刻。

——2023年1月25日美国《财富》杂志

——2024年

2024全球机器学习技术大会（北京站）主题涵盖大语言模型技术演进、多模态大模型前沿、大模型工程与架构、大模型应用开发实践、AI智能代理、代码大模型等12个热门专题，力求为全球开发者、研究人员、行业技术人员提供全方位、多角度的技术交流平台。

ZhaoWX,ZhouK,LiJ,etal.Asurveyoflargelanguagemodels[J].arXivpreprintarXiv:2303.18223,2023.2

高质量数据集是大模型性能提升的基础

•2007年CommonCrawl（CC）项目启动

•2019年WebText和C4等基于CC清洗得