程童-作业帮检索系统重构：Havenask 实践案例分享.pdfVIP

作业帮检索系统重构：

Havenask实践案例分享

程童

Havenask(HA3)

✓

✓

✓

✓

01结果很重要

02业务场景及核心问题

目录03思路和决策

04实践过程

05总结

01

结果很重要

成本问题

单位成本

s

p

q

万

/

本

成

20212022202320242025

注：统计时间节点为每年年末高峰，年取元旦后数值

索引容量瓶颈

业务需求问题

结果很重要

大规模复杂算法系统年省23年全年有效索引数据强化向量检索，快速支持

成本40%+增加超过100%，索引成基于RAG及多模态大模型

本增长10%的AI业务落地

结果很重要

十年系统能力重塑，拥抱AI时代

02

业务场景及核心问题

一次典型的题目检索过程

拍照上传图像图像预处理检测识别

一次典型的题目检索过程

检索query生成召回排序返回top结果

真实业务场景的复杂性

智能批改检索增强及多模态LLM能力

技术能力拆解

题目检索图形题检索多分类批改……全学科知识点检索检索增强多模态LLM

OCRAI

/

系统架构

检索系统的挑战

1.压力主要集中在索引引擎上

2.其次是排序层的问题

3.根因还是流量数据量持续增长，考验系统性能

03

思路和决策

思路与决策

1.

2.

约束

3.

现有基础迭代自研替换开源替换

✓✓

✓

优势

✓✓