2024腾讯云大数据年度干货合集.pdfVIP

1223

页码：/

2223

页码：/

核心技术

3223

页码：/

RAG+Agent：基于腾讯云ES与混元大模

型构建专属AI助手

01

背景概述

随着数据智能技术的不断发展，以大语言模型（LLM）驱动的AIGC为代表的

内容生成技术已经成为企业数据智能能力中不可或缺的一部分，但传统的内容生

成技术存在信息更新不及时、垂直领域知识匮乏、模型幻觉等问题，如何推进大

模型在各行业、各业务场景落地是各方普遍关注的问题，而检索增强生成

(Retrieval-AugmentedGeneration，RAG)技术则为此提供了有效的解决方案，

成为数据智能时代的一大趋势。

RAG是一种结合了检索和大语言模型内容生成的技术方案，它通过引用外部知

识库，在用户输入Query时检索出知识，然后让模型基于可信的知识进行用户

回答。RAG具有较高的可解释性和定制能力，可大幅降低大语言模型的幻觉，

适用于问答系统、文档生成、智能助手等多种自然语言处理任务中。本文将通过

介绍腾讯云ES一站式RAG方案，演示如何通过结合腾讯云ES与混元大模型，

快速构建RAG应用。

4223

页码：/

02

腾讯云ES一站式RAG方案

腾讯云ES是云端全托管海量数据检索分析服务，拥有高性能自研内核，集成

X-Pack，支持通过自治索引、存算分离、集群巡检等特性轻松管理集群，也支持

免运维、自动弹性、按需使用的Serverless模式。在自研内核方面，腾讯云ES

依托腾讯内外部海量业务的运营经验，针对ES内核进行了成本、性能、稳定性、

拓展性等方面的优化，是亚太地区开源贡献第一的团队，使用腾讯云ES您可以

高效构建在线搜索、向量检索、日志分析、运维监控、智能问答等服务。

在RAG方面，腾讯云ES支持了一站式向量检索、文本+向量混合搜索、倒数

排序融合、与大模型集成、GPU高性能推理、字段级别权限控制等能力，同时

针对查询性能做了大量优化，有效的提升了数据检索效率。

5223

页码：/

当然，作为国内公有云首个从自然语言处理、到向量生成/存储/检索、并与大模

型集成的端到端一站式技术平台，腾讯云ES也作为核心参编单位参与了由信通

院组织的RAG标准制定，同时成为首个通过RAG权威认证的企业。

03

AI助手构建

购买ES集群

1、登录腾讯云ES控制台：

https///login?s_url=https%3A%2F%2Fconsole.cloud.t

%2Fapi%2Fexplorer%3FProduct%3Dhunyuan%26Version%3D

2023-09-01%26Action%3DChatCompletions（复制链接到浏览器打开）

2、点击「新建」

6223

页码：/

3、产品类型选择为：通用版

7223