《2024 AI行业关键时刻：瓶颈与机遇并存》教学应用说明.docx

《2024AI行业关键时刻：瓶颈与机遇并存》教学应用说明

--AI+教育研究中心谢强

报告主要分析了AI行业在模型、应用、算力、硬件等方面的发展趋势与面临的挑战，并对智能驾驶和机器人行业进行了探讨，同时给出了风险提示。

1AI模型趋势：2024年大模型厂商推出模型速度加快，预训练市场收敛，后训练时代开启新ScalingLaw方向。包括用推理代替思考（如OpenAI的o1模型）、测试时训练、合成数据应用、模型量化技术发展及多模态融合模型发展等，多模态融合模型虽有进展但与GPT4o仍有差距。

2AI应用情况

2.1应用活跃度：ChatGPT等AI聊天助手应用活跃度持续增长，视频模型快速发展，音乐和音频模型市场空间有局限。

2.2重点应用方向：AI程序员在企业中广泛应用提升开发效率；AI搜索有望诞生超级APP；数据重要性提升推动SaaS平台业务增长；AI眼镜作为最佳硬件2025年将迎来出货潮。

3算力系统挑战

3.1面临瓶颈：人工智能算力需求随模型规模增长而攀升，但单卡算力、互联性能和能源供应发展速度趋缓，系统故障率上升。

3.2芯片与电力问题：英伟达Blackwell架构芯片虽有进展但存在问题，单卡算力提升是关键；数据中心电力消耗呈指数级增长，核电成为潜在解决方案，但存在风险与政策差异。

4硬件市场影响

4.1推理算力需求：大模型性能提升推动推理算力需求加速增长，系统集成大模型使单位Prompt推理算力显著增长。

4.2服务器与端侧推理：服务器推理面临内存墙问题，HBM容量是竞争要点，AMDGPU有优势；端侧推理因单用户场景内存成本高，端云结合是趋势，硬件厂商对增加内存容量持谨慎态度。

5AI设备销量：2024年三季度AI手机和笔电销量同比增长，AI手机焦点在旗舰机，硬件、软件、生态需协同发展，端云结合是方向；AIPC竞争激烈，X86与ARM架构各有竞争优势，未来竞争将更激烈；AI设备产业链中散热、光学等领域有发展机会。

6智能驾驶与机器人行业

6.1智能驾驶：存在模块化与端到端方案之争，各有优劣，车厂达到L4+级别自动驾驶仍需时间。

6.2机器人行业：具身智能需更实用场景和更低价格，宇树等厂商积极投入，宇树产品具有优势。

大模型厂商推出模型的速度会对AI行业的发展产生影响。

12024年大模型厂商推出模型的速度仍在加快，大模型与小模型共存是解决模型能力上限和端侧推理的方案，各大模型厂商会推出几B到TB级别的模型。随着大型模型训练成本的不断提升，以及更多公司的开源，模型预训练市场的玩家会快速缩小，针对特定任务的微调或者Agent业务将是更多中小模型厂商发展的重点。

例如，OpenAI发布了具有“逻辑推理”能力的o1模型；其他大模型公司如阿里通义发布了Marcoo1，DeepSeek推出了对标o1的DeepSeekR1。

2大模型的发展也面临一些挑战和瓶颈：

2.1预训练和现实数据触顶，简单增加数据和计算能力来扩大模型规模的时代可能结束，需找到具有更高投入回报比的新方向。

2.2数据方面，训练AI模型所需的高质量文本和其他数据正在减少，且AI自生成数据存在质量下降风险；有研究预测到2028年全球可能面临“文本数据耗尽”问题。

2.3计算能力方面，数据中心昂贵的建造成本可能难以支撑迭代所需的庞大算力要求，散热问题也成为数据中心升级的阻碍。

不过，行业也在积极探索新的方向和技术，如测试时训练、合成数据应用、感知量化训练等，以推动模型能力提升。

3大模型的发展趋势包括：

3.1多模态融合模型发展空间大，如Meta和阿里巴巴积极布局多模态大模型领域。3.2技术演进速度不会下降，向上探索的天花板还远远没到。未来大模型的泛用性

将进一步提升，能更好地理解自然语言，进行更多复杂任务，如翻译、推理、创作等；在多模态、定制化等方面也会有重要发展。

3.3从应用角度看，大模型在一些高技术需求、数据密集型场景中率先实现规模化落地，如操作流程优化等工业制造领域。

3.4大模型的发展还可能逐渐告别“粗放式增长”，未来的突破更多依赖于技术细节的优化，而非简单堆叠数据和算力。

4总之，大模型厂商推出模型的速度本身反映了行业的活跃程度和技术发展态势，