Ktransformers：单卡完成千亿参数大模型推理任务-2024全球机器学习技术大会.pdf

2024全球机器学习技术大会（北京站）主题涵盖大语言模型技术演进、多模态大模型前沿、大模型工程与架构、大模型应用开发实践、AI智能代理、代码大模型等12个热门专题，力求为全球开发者、研究人员、行业技术人员提供全方位、多角度的技术交流平台。

2024全球机器学习技术大会（北京站）主题涵盖大语言模型技术演进、多模态大模型前沿、大模型工程与架构、大模型应用开发实践、AI智能代理、代码大模型等12个热门专题，力求为全球开发者、研究人员、行业技术人员提供全方位、多角度的技术交流平台。

2024全球机器学习技术大会（北京站）主题涵盖大语言模型技术演进、多模态大模型前沿、大模型工程与架构、大模型应用开发实践、AI智能代理、代码大模型等12个热门专题，力求为全球开发者、研究人员、行业技术人员提供全方位、多角度的技术交流平台。

陈祥麟

趋境科技研发负责人

清华大学硕士，多年大数据与AI全栈开发经验，曾负责数个千万级产品研发与交付。

开源项目Ktransformers核心开发者之一，实现业界首个单张GPU本地支持千亿大

2024全球机器学习技术大会（北京站）主题涵盖大语言模型技术演进、多模态大模型前沿、大模型工程与架构、大模型应用开发实践、AI智能代理、代码大模型等12个热门专题，力求为全球开发者、研究人员、行业技术人员提供全方位、多角度的技术交流平台。

模型、支持1M超长上下文推理的高性能推理框架。

演讲主题：

Ktransformers：单卡完成千亿参数大模型推理任务

Ktransformers：单卡完成千

亿参数大模型推理任务

2024全球机器学习技术大会（北京站）主题涵盖大语言模型技术演进、多模态大模型前沿、大模型工程与架构、大模型应用开发实践、AI智能代理、代码大模型等12个热门专题，力求为全球开发者、研究人员、行业技术人员提供全方位、多角度的技术交流平台。

趋境科技：陈祥麟

趋境科技公司

•专注大模型推理加速解决方案

研发实力深厚

•帮助企业低成本落地私有化大模型

公司研发团队技术实力深厚，团队成员90%以上为硕士、50%以上为

•公司创始团队均来自清华大学计算机系博士，均毕业于清华、新加坡国立、北航、北邮、北理等国内外知名

院校。

•具备多年学术与产业实践经验

拥有OSDI、SOSP、ASPLOS等国际顶级期刊一作论文数十余篇，

清华系团队牵头数个国家级创新奖项，在AI和存储领域有深入的学术研究。

2024全球机器学习技术大会（北京站）主题涵盖大语言模型技术演进、多模态大模型前沿、大模型工程与架构、大模型应用开发实践、AI智能代理、代码大模型等12个热门专题，力求为全球开发者、研究人员、行业技术人员提供全方位、多角度的技术交流平台。

•公司CEO：艾*-清华博士，10年以上产品化经验，百人

团队成员来自英特尔、百度、字节、深信服等行业知名企业，负责关

以上团队管理经验，主导多个千万级产品交付键产品的研发与交付，拥有丰富的技术实践经验。

•首席战略官：陈*-清华工程博士在读、MIT杜克大学双

硕士，主导多家技术驱动科技企业的投资与孵化产品技术路线业内首创，精准解决行业私有化大模型