原创力文档- 1、本文档共43页，可阅读全部内容。
- 2、原创力文档（book118）网站文档一经付费（服务费），不意味着购买了该文档的版权，仅供个人/单位学习、研究之用，不得用于商业用途，未经授权，严禁复制、发行、汇编、翻译或者网络传播等，侵权必究。
- 3、本站所有内容均由合作方或网友上传，本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺！文档内容仅供研究参考，付费前请自行鉴别。如您付费，意味着您自己接受本站规则且自行承担风险，本站不退款、不进行额外附加服务；查看《如何避免下载的几个坑》。如果您已付费下载过本站文档，您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等，请点击“版权申诉”（推荐），也可以打举报电话：400-050-0827(电话支持时间：9:00-18:30)。
文档解析技术加速大模型训练与应用
常扬合合信息
演讲嘉宾
常扬
合合信息智能创新事业部研发总监/复旦大学博士
合合信息智能创新事业部研发总监，复旦博士，复旦大学机器人智能实验室成员，国家级大学生赛事评审专家，发表多篇SCI核心期刊学术论文，
多个学术会议讲师与技术社区AI专家博主，负责合合智能文档处理业务线的产品、技术、云服务平台研发工作。任职期间，先后主导AI数据清洗平
台、信息抽取产品、智能文档处理云服务平台、智能文档场景落地产品，为金融、制造、物流等行业提供智能文档处理产品与解决方案，在人工智
能领域具备丰富的技术落地经验和行业场景洞察力。
1.当前大模型训练与应用中的挑战
目录CONTENTS
目录
CONTENTS
3.TextIn文档解析技术算法框架
4.基于文档解析技术的大模型应用探索
5.总结与展望
PART01
当前大模型训练与应用中的挑战
研究背景
当前大模型训练与应用过程的关键环节面临的问题
当前大模型训练与应用过程的关键环节面临的问题
LLM
LLMRAG应用中文档解析不精准
训练语料质量要求高
训练语料质量要求高
训练Token耗尽
训练Token耗尽
7
更多、更高质量的训练语料的需求-大模型训练
高质量预训练数据跟不上模型的进化
高质量预训练数据跟不上模型的进化
如何高效获取更多高质量数据?
如何高效获取更多高质量数据?
CommonCrawl,C4,Github,
Wikipedia,StackExchange,
Huggingface数据集……
??
Markdown
互联网
互联网
书籍、论文等
PDF/扫描件
LLAMA2:
LLAMA2:2TTokens
GPT4:13TTokens
核心诉求
核心诉求
文档元素识别，表格、段落、公式、标题
文档元素识别，表格、段落、公式、标题转化速度快，上百页PDF
版面正确解析，双栏、三栏、文表混合阅读顺序还原，避免混乱语序
8
更高精准、效率的文档解析的需求-大模型应用
RAG技术流程
大语言模型（
大语言模型（LLM）驱动的检索增强生成（RAG）技术中
确保能够从源文件中精准地提取内容，对于提高最终输出的质量至关重要。
在实际工作场景中，非结构化数据远比结构化数据丰富。但如果这些海量数据不能被解
析，其巨大价值将无法发掘，
其中PDF文档尤为突出。
9
研究方向：多版式、高精度、高性能的文档解析技术
（书籍、论文、企业文档...)
训练应用
大模型
各种格式、版式文档文档问答、知识库问答
TextIn文档解析技术
TextIn
文档解析技术
文档解析技术
PART
PART02
文档解析技术发展与研究内容
11
12
12
文档介绍：计算机视角下两种类型的文档
有标记文档无标记文档
扫描文档图像PDF文档Word文档MarkDown文档HTML文档
扫描文档图像PDF文档
计算机视角下无标记的文档：%PDF-1.0
计算机视角下无标记的文档：
%PDF-1.0
40obj/Length65
stream1.0.0.1.50.700.cm
BT/F036.Tf(Hello,World)Tj
ETendstream
endobj
#有标记文档MarkDown示例##第一部分
###子标题
|表格列1|表格列2|表格列3|
||||
正文：有标记的文档指的是可以直接用计算机处理，结构化的文档
可以将文本组织成段落、单元格、表格没有储存任何结构信息，如表格或段落
机器可以直接读取机器无法直接读取
13
13
PDF文件格式
PDF文件：一系列显示打印指令的集合，非数据结构化格式。
显示不受设备、软件或系统的影响PDF(PortableDocument
Format便携式文档格式)，独立于应用程序、
文档评论（0）