什么是软硬件融合.docxVIP

当提到软硬件融合的时候，很多人会说：“软硬件融合，难道不是显而易见吗？我感觉在二三十年前就已经有这个概念了。”在他们的想法里，其实：软硬件融合等同于软硬件协同，甚至等同于软硬件结合。他们混淆了软硬件结合、软硬件协同和软硬件融合的概念。

今天这篇文章，就跟大家详细介绍一下软硬件融合的概念和内涵，以及软硬件融合和软硬件协同、软硬件结合之间的区别和联系。

1背景知识：软硬件协同的发展

传统的系统设计，软硬件划分不够仔细，软硬件是紧耦合的，相互掣肘。这即是我们经常说的“软硬件结合”的设计思路。在系统规模较小的时候，遇到的问题不多，即使遇到问题，调整的代价也不高，可以承受。

但随着系统的规模逐渐扩大，软硬件结合的设计方法开始暴露问题：

硬件/软件划分在还未充分理解系统的情况下进行，很容易产生设计错误；

软硬件划分的设计错误，会对系统产生巨大的负面影响；

而受开发周期和纠正代价的影响，难以纠正在软硬件划分阶段的错误。

系统规模逐步扩大，量变引起质变，传统的软硬件结合设计的问题逐渐凸显。需要升级设计方法论，需要从软硬件结合，走向软硬件协同。

软硬件协同是1990s提出的概念，强调在系统划分之前，需要深刻的理解系统，并且经过非常仔细的系统分析和架构映射，慎重而准确的进行系统的软硬件划分。

软硬件划分是为了软硬件协同，因此软硬件协同设计的关键是在划分之前，而不是在划分之后。划分之前，深度思考软硬件工作划分的准确，确保“接口”清晰、高效，确保软硬件充分地协同。划分（解耦）之后，没有了相互掣肘，软硬件都可以充分创新，实现更加强大的功能/性能。

传统的软硬件结合设计，适合于小系统；而软硬件协同设计，适合于大系统。软硬件协同，是用于大系统的、统一的设计方法论。软硬件协同可以充分利用已有软硬件资源，使得效率最大化，缩短产品上市时间。

2软硬件融合的根基

2.1软硬件划分，暨处理器类型划分

世间万物由基本粒子组成，复杂处理由基本计算组成。软硬件划分指的是，软件和硬件通过一定的“接口”解耦，而指令（集）则是软件和硬件的“接口”。指令的复杂度（计算粒度或密度）决定了系统的软硬件解耦程度。

ISA（指令集架构）之下，CPU、GPU等各种处理器是硬件；ISA之上，各种程序、数据集、文件等是软件。

按照指令的复杂度，典型的处理器平台大致分为CPU、协处理器、GPU、FPGA、DSA、ASIC。从左往右，单位计算越来越复杂。性能越来越好，而灵活性越来越低。

CPU、GPU、DSA等各种类型的处理器，本质上是在不同层次的软硬件解耦基础上的软硬件协同。

2.2分层分块的系统

系统由分层分块的各个组件，即工作任务（Workloads），有机组成。整个系统，是一个分层的体系：每一层都建立在下面一层的基础之上，每一层再通过特定的接口向上一层提供服务；同一层中，模块也可以通过接口向其他模块提供服务。

多个小系统组成大系统，多个大系统再组成宏系统；反过来，宏系统可以分解成多个大系统，每个大系统还可以再分解成多个小系统。

3软硬件融合

3.1首先，软硬件融合是一种设计理念

CPU、GPU等标准化的处理器已经成为我们主流的计算平台，也已经拥有了非常庞大的生态。在这些软硬件标准化解耦的平台上，芯片工程师仅需要关注芯片的设计实现，软件工程师仅需要关注软件开发。大家并行不悖的各种努力工作，平台“长年不变”，是一种非常舒服但又不可能的理想的状态。

事物发展不会停滞。CPU已经存在了50多年，性能早已见顶；GPU也有20多年的历史，性能增长也相当缓慢。大模型应用通常需要上万张GPU加速卡，据说GPT5需要5万张GPU卡。上层业务应用日新月异，已有的硬件平台已经无法满足我们的需要。

是时候打破已有的软硬件界限了！

没有条条框框的限制，回到系统的本源，重新思考系统的设计，重新构建新的更复杂的软硬件协同。这就是我们所强调的软硬件融合！

3.2从软硬件结合、软硬件协同到软硬件融合

软硬件协同是上世纪90年代的产物，到现在已经有了30年左右的时间。上层的业务系统早已经翻天地覆，系统规模增加了成百上千倍，很难对如此复杂的系统进行准确的软硬件划分。

于是，软硬件融合应运而生。

我们把软硬件结合面向的系统称之为小系统，把软硬件协同面向的系统称之为大系统，那么软硬件融合则面向宏系统。

宏系统可以拆分成系统，每个系统需要软硬件协同，并且各个系统间还需要再协同，众多的软硬件协同组成的新的软硬件交互机制，即为软硬件融合。

软硬件协同，面向单个系统的计算场景；软硬件融合，面向多个系统混合的复杂计算场景。因此，软硬件融合面向的系统规模，通常是软硬件协同面向的系统规模的10+倍。

从软硬件协同到软硬件融合：软硬件协同，是单系统软硬件设计的方法学；软硬件融合，是多系统复杂计算软硬件设计的方法学。

3.3软硬件融