王昕：面向大模型的新编程范式.docx

面向大模型的新编程范式

王昕

微软（中国）有限公司

高级技术战略专家

王昕

微软（中国）有限公司高级技术战略专家

请替换

王昕有20年从事软件系统设计、开发和产品管理的经验，目前在微软中国从事技术战略和技术生态孵化工作，推广基于OpenAI等大语言模型技术的新应用架构。王昕对IT行业新技术始终保持第一线的跟踪，多年在GOPS、InfoQ，CSDN等技术论坛从事技术布道和经验分享工作。

GO

GOPS全球运维大会暨XOps技术创新峰会2024·北京站

目录

目录

02开发运营模式

03开发平台与工具

04开发最佳实践

GO

GOPS全球运维大会暨XOps技术创新峰会2024·北京站

01智能应用的新机遇

GOPS全球运维大会暨XOps技术创新峰会2024·北京站

生成式AI正在改变应用开发

Artificial

ArtificialIntelligence1956

1997

2017

GenerativeAI2022

AI演变GenerativeAi技术应用发展实现图

GO

GOPS全球运维大会暨XOps技术创新峰会2024·北京站

生成式AI正在改变应用开发

GPT-4/3

GPT-4/3

提示：

为一家冰淇淋店写一个标语。

回应:

我们的每一勺都能带来

我们的每一勺都能带来

微笑!

Codex

Codex

提示：

Tablecustomers,

columns=

[CustomerId,

FirstName,LastName,Company,Address,

City,State,Country,PostalCode]

为德克萨斯州的所有名为Jane的客户创建一个SQL

查询=回应:

SELECT*

FROMcustomers

WHEREState=TXANDFirstName=Jane

DALL·E

DALL·E2/3

提示：一只白色的暹罗猫回应:

ChatGPT

ChatGPT

陆地上跑得最快的动物是什么？

陆地上跑得最快的动物是什么？

猎豹，其速度可达每小时60英

猎豹，其速度可达每小时60英里（97公里）。

是什么让它们这么快？

是什么让它们这么快？

猎豹是为速度而生的，有几种

猎豹是为速度而生的，有几种适应能力，使它们成为速度最快的陆地动物：苗条的身体、长腿、灵活的脊椎、大鼻孔和不会缩回的爪子。

GO

GOPS全球运维大会暨XOps技术创新峰会2024·北京站

引起变革的核心技术大型语言模型LLM

oLLM的技术特点:

大规模预训练

多层编码

语言生成

对话系统

可扩展性

GO

GOPS全球运维大会暨XOps技术创新峰会2024·北京站

最新的大模型能力GPT-4o和其他模型能力比较

GO

GOPS全球运维大会暨XOps技术创新峰会2024·北京站

Benchmark指标的解读

GO

GOPS全球运维大会暨XOps技术创新峰会2024·北京站

MMLU(MeasuringMassiveMultitaskLanguageUnderstanding)的问题

GO

GOPS全球运维大会暨XOps技术创新峰会2024·北京站

MATH(MathematicalProblemSolving)的问题

GO

GOPS全球运维大会暨XOps技术创新峰会2024·北京站

MGSM(MultilingualGradeSchoolMath)的问题

GO

GOPS全球运维大会暨XOps技术创新峰会2024·北京站

DROP(DiscreteReasoningOverParagraphs)的问题

阅读以下文章，并回答问题：

从1231年开始，高丽间歇性地遭到蒙古帝国的入侵。在此期间，高丽由崔氏家族领导的军事政权控制。1232年，名义上的国王带领政府逃到江华岛，蒙古骑兵无法登陆该岛，从而抵抗蒙古入侵。不幸的是，由于基础脆弱，高丽经常面临叛乱。1258年的叛乱导致蒙古人建立了双城和东宁府。与这些叛军不同，三