打造LLMOps时代Prompt数据驱动引擎-2024大数据大模型峰会.pdf

打造LLMOps时代Prompt

数据驱动引擎

“大模型”与“大数据”两者犹如车之双轮，合力驱动数据价值和企业价值的增长。大数据和大模型，作为双核驱动力，正在引领我们迈向更加智能、高效和便捷的时代。

刘逸伦-华为-2012文本机器翻译实验室

DataFunCon#2024

团队介绍：华为文本机器翻译实验室

“大模型”与“大数据”两者犹如车之双轮，合力驱动数据价值和企业价值的增长。大数据和大模型，作为双核驱动力，正在引领我们迈向更加智能、高效和便捷的时代。

Contents

目录

背景：从AIOps到LLMOps面临prompt挑战LLMOps持续成长源动力：Promptlearning数据飞轮

“大模型”与“大数据”两者犹如车之双轮，合力驱动数据价值和企业价值的增长。大数据和大模型，作为双核驱动力，正在引领我们迈向更加智能、高效和便捷的时代。

打造LLMOpsPromptapplication引擎未来畅想

“大模型”与“大数据”两者犹如车之双轮，合力驱动数据价值和企业价值的增长。大数据和大模型，作为双核驱动力，正在引领我们迈向更加智能、高效和便捷的时代。

01背景：从AIOps到LLMOps面临prompt挑战

从AIOps到LLMOps：大模型强大的泛化能力和语言理解能力推动AIOps发展

大语言模型在自然语言理解上已经

可以超越人类，并且可以支持100+

小语种。如果将机器语言作为一项

语种，经过一些微调之后也可以将

大模型的自然语言能力迁移到机器

语言上。

“大模型”与“大数据”两者犹如车之双轮，合力驱动数据价值和企业价值的增长。大数据和大模型，作为双核驱动力，正在引领我们迈向更加智能、高效和便捷的时代。

日志压缩

和自然语言任务类似，AI运维领域

LogCompress

也针对不同语义侧重点有不同的自

基于日志的自动化分日志解析异常检测

动化分析任务。通过预训练或者指析任务LogParsingAnomalyDetection

令学习，可以适应多任务场景，从日志挖掘故障预测

LogMiningFailurePrediction

而可能建立基于大模型的统一处理

……故障诊断

框架。FailureDiagnoses

图：基于日志的自动化分析任务总结

(/logpai/awesome-log-analysis)

Promptapplication+Promptlearning是推动LLMOps的关键引擎

•大语言模型(LLM)与提示词(Prompt)：大语言模型在预训练过程中学习了大量的物理世界知识，并将其转化成数字格式存储起来。Prompt充当

人的认知世界与大模型数字