端侧AI推理框架竞争：TensorFlow Lite、ONNX Runtime、llama.cp.docxVIP

PAGE2

端侧AI推理框架竞争：TensorFlowLite、ONNXRuntime、llama.cpp与MLX的生态对决

本报告说明

本报告聚焦端侧AI推理框架赛道的竞争格局，系统比较TensorFlowLite、ONNXRuntime、llama.cpp与MLX四大主流框架在移动端、PC端与边缘端的产品布局、技术路线与生态影响力。

报告核心发现如下：TensorFlowLite凭借Google生态在Android移动端占据先发优势，但在大模型时代面临推理性能与新硬件适配的双重挑战；ONNXRuntime依托微软与Linux基金会背景，在跨平台企业级部署中保持中立地位；l