微调 SLM 或提示 LLM?生成低代码工作流的案例-计算机科学-生成式人工智能-检索增强生成.pdfVIP

微调 SLM 或提示 LLM?生成低代码工作流的案例-计算机科学-生成式人工智能-检索增强生成.pdf

  1. 1、本文档共10页,可阅读全部内容。
  2. 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  5. 5、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  6. 6、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  7. 7、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  8. 8、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多

微调SLM或提示LLM?生成低代码工作流

的案例

OrlandoMarquezPatriceBechardEmilyChen

ServiceNowServiceNow

Ayala

patrice.bechard@emily.chen@

ServiceNow

orlando.marquez@

MaggieBairdJingfeiChen

ServiceNowServiceNow

本maggie.baird@jingfei.chen@

中摘要Keywords

2大型语言模型(LLMs)如GPT-4o可以处理各种复杂大型语言模型,生成式人工智能,检索增强生成,任

v的任务,只需要适当的提示。随着标记成本的降低,微务分解,工作流

9

8调小型语言模型(SLMs)以用于实际应用的优势——

1

4更快的推理、更低的成本——可能不再那么明显。在

2.本研究中,我们提供的证据表明,在需要结构化输出1介绍

5的特定领域任务中,SLMs仍然具有质量优势。我们生成式人工智能正在推动基于人工智能的软件边界。

0

5将对SLM进行微调与提示LLMs生成JSON格式的随着大型语言模型(LLMs)能力的提升,它们已经成

2

:低代码工作流的任务进行了比较。我们观察到,虽然为软件堆栈的重要组成部分。尽管提示像GPT-4o[15]

v

i一个好的提示可以产生合理的结果,但微调平均提高,Gemini2.0Flash[12]或Claude3.5Sonnet[1]这样

x

r了10%的质量。我们也进行了系统的错误分析以揭示的最先进的模型通常足以完成诸如问答或总结[9]等

a

模型的局限性。传统任务,但在特定领域的任务[24]上情况并非总是

如此。

在构建流生成(一个基于文本用户需求生成低代

CCSConcepts码工作流的应用程序)时,我们探讨了是否需要对语

•Computingmethodologies→Naturallanguagepro-言模型进行微调以达到所需的软件质量。为了减少基

cessing;Machinelearning;•Informationsystems→础设施需求,我们仅考虑了参数少于150亿的小型语

Specializedinformationretrieval;Enterpriseinformation言模型(SLMs)。

systems.企业工作流是一种常用的方法,用于自动化那些

重复但复杂的流程。它们被表示为一系列在特定条件

下执行以实现具体目标的步骤。虽然低代码工作流倾

向于构建在易于使用的界面中,但创建它们仍然需要

KDDWorkshop’

文档评论(0)

zikele + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档