计算机行业点评：从关键论文看边缘AI-240701.pdf

证券研究报告|行业点评

2024年07月01日

计算机

从关键论文看边缘AI

苹果发布AppleIntelligence，自研端+云模型能力优秀。2024年全球开发者大增持（维持）

会上，苹果推出了个人智能系统AppleIntelligence，其中用到两个模型：一个30

亿参数的设备端模型，以及一个更大的在服务器上运行的模型。AppleIntelligence

在基础模型上增加了许多适配器针对总结、校对、邮件回复、音调调整、查询处行业走势

理、友好性、紧急情况等不同具体任务进行了优化。在多项能力评测中，苹果自

研的设备端模型和服务器模型相对可比的开源或商用模型均取得了优秀的成绩。

计算机沪深300

解决边缘侧性能问题，苹果技术储备充分。大语言模型对计算和内存的大量要求16%

带来了挑战，2023年12月苹果发布论文《LLMinaflash：EfficientLargeLanguage0%

ModelInferencewithLimitedMemory》提出将模型参数存储在闪存中，按需将其-16%

引入内存，解决高效运行超过可用内存容量的大模型的挑战，论文中使用窗口化

技术通过重用以前激活的神经元来减少数据传输，行列捆绑增加了从闪存读取的-32%

数据块的大小。AppleIntelligence还使用了一系列创新技术以提高模型运行速度-48%

和效率，如采用分组注意力查询机制等。在iPhone15Pro上，AppleIntelligence2023-072023-102024-022024-06

能达到每个token约0.6毫秒的首次延迟，以及每秒30个token的生成速率。

科技巨头纷纷布局，加速边缘侧智能助理产业变革。1）2024年5月OpenAI推

出最新的旗舰模型GPT-4o，可以实时推理音频、视觉和文本，发布会上OpenAI作者

直播演示了GTP-4o强大的交互能力，是人机交互领域的重大进步。2）2024年5

分析师刘高畅

月谷歌IO大会上展示了基于Gemini大模型对AI助手的探索项目Astra，演示了

执业证书编号：S0680518090001

在手机以及眼镜设备上实时推理环境并与用户交互的能力。我们认为科技巨头从

边缘侧模型到硬件均在不断做出创新探索，加速智能助理的产业变革，有望打开邮箱：liugaochang@

各类终端软硬件的新增长空间。相关研究

建议关注：1、《计算机：24Q2前瞻：算力依旧为基，投资逐步筑

底》2024-06-30

1）算力侧：寒武纪、中际旭创、新易盛、工业富联、浪潮信息、海光信息、中科

曙光、软通动力、协创数据、云赛智联、神州数码、高新发展、利通电子、烽火通2、《计算机：科技迎资本市场政策支持》2024-06-23

信等。3、《计算机：投资修复方向探讨》2024-06-23

2）投资修复

信创：达梦数据、纳思达、金山办公、中科曙光、顶点软件。

数字化龙头：海康威视、大华股份。

医疗IT：创业慧康、卫宁健康。

车路云：金溢科技、万集科技、千方科技。

3）AI相关：海康威视、中科创达、立讯精密、鹏鼎