面向高校师生的私域LLM知识管理平台构建研究与实践.pdfVIP

面向高校师生的私域LLM知识管理平台构建

研究与实践

121*

杜昌顺，祁鹤翔，闫蕾

（1.北京化工大学信息化办公室（信息中心），北京100029；2.北京化工大学化学学院，北京100029）

摘要：大型语言模型（LLM）在高校教育教学领域知识管理中具有重要应用潜力，但当前领域模型和检索增强生成

（Retrieval-AugmentedGeneration，RAG）两种主要技术路径在系统灵活性、数据隐私保护和数据可用性等方面存在一定

局限性。基于此，提出了一种可行的知识管理平台架构，该架构以私有化部署的LLM为核心，并与具备细粒度访问

控制机制的RAG知识库系统相结合；该架构在确保数据安全性的前提下，充分利用LLM的文本处理能力，为高校教

学科研活动中的知识管理需求提供智能化支持平台。测试结果表明，该架构可有效平衡知识管理系统的安全性与

功能性，为高校师生的知识管理数字化转型提供了可借鉴的技术解决方案。

关键词：LLM；RAG；知识管理；数据安全；LangChain

中图分类号：G45;TP315文献标识码：A文章编号：2095-2333（2025）04-0053-07

性和意识形态安全性等方面的问题仍然限制着LLM技术在知

一、引言

识管理信息化任务中的应用。本课题以解决上述问题为目

2022年，OpenAI面向公众发布了名为ChatGPT的在线标，尝试构建一种面向高校师生的私域LLM知识管理平台。

LLM服务，随后国内外也有一些企业/机构公开发布了类似的

二、高校LLM应用面临的问题与技术路线分析

服务或开源模型，引发社会各界围绕LLM的发展和应用展开

了广泛的讨论和探索。以LLM为代表的生成式人工智能服务自ChatGPT面世以来，高校师生对LLM技术进行了积极

赋予了使用者通过文本交互的方式充分利用计算机资源进行的尝试，LLM具有理解和生成自然语言文本的能力，擅长与人

知识检索和内容生成的能力，此外，LLM技术也进一步地朝着类交互及处理大量的文本内容并提取其中的知识，能够在高

轻量化、多模态的方向发展，较新的模型如GPT-4o/GPT-4o-校教育教学过程中起到辅助作用，例如作为助教答疑、组织课

mini模型在性能接近于GPT-4的情况下，可在有限性能的民

术技息信代一新

程框架草案、生成课程作业题目等。但是，在实践过程中，

用设备甚至低算力的边缘计算设备上运行，而以GLM-4v为LLM提供的知识时效性、专业性、准确性和安全性问题仍然限

代表的模型等进一步增加了视频、音频内容的处理能力［1-2］，制了LLM的应用。出现上述问题的原因包括多个方面，例如

这些技术发展为灵活地部署和使用LLM提供了有利的环境。训练数据缺乏专业领域的知识、对复杂数学/逻辑问题推理能

在高校教学科研任务中，知识管理是一个关键的环节。力较弱、训练内容本身带有特定意识形态或缺乏安全审查等。

现代教学科研任务的基础知识来源具有多样性，通常包括在

LLM的开发者和以高校工作者为代表的有专业需求的用户分

线发布的电子期刊、教材、课件、以课题组为单位的内部知识

别采取了不同的措施，以