《人工智能概论》第4章 AI芯片.pptx

第4章AI芯片让人工智能大脑更聪明

目录三人工智能芯片类型一芯片基础知识二人工智能对芯片的需求四国内外AI芯片发展

芯片基础知识一

情景导入你身边哪些设备上存在有芯片？

芯片基础知识(一)芯片的构成及原理(二)计算机中主要芯片类型(三)存储器芯片

芯片基础知识所谓微电子是相对强电、弱电等概念而言，指它处理的电子信号极其微小。它是现代信息技术的基础，我们通常所接触的电子产品，包括通讯、计算机、智能化系统、自动控制、空间技术、电台、电视等等都是在微电子技术的基础上发展起来的。通常所说的“芯片”是指集成电路，它是微电子技术的主要产品。

芯片基础知识（一）芯片的构成及原理芯片的工作速度与芯片内电路之间信号传送路程的长短有关，路程越短速度越快，反之则越慢。芯片的工作时间单位是以纳秒计量的。芯片中的电路越紧密地挤在一起，芯片的工作速度越快，而且由于更多的电路被设计在同样面积的硅片上，芯片的功能更强。实际中芯片所做的工作都是由晶体管完成的。芯片的衬底材料是具有n-或p-型的轻掺杂质单晶硅层。它起两个作用，一是作为在其上面和内部制造集成电路的物理介质，另一作用是作为电路本身的一部分，构成芯片核心的半导体电路和微型晶体管通过沉积或刻蚀直接构建在单晶硅表面上。

芯片基础知识（二）计算机中主要芯片类型微处理芯片接口芯片

芯片基础知识（二）计算机中主要芯片类型微处理芯片微处理芯片，又称微处理器(英语：Microprocessor，缩写：μP或uP)，是可编程特殊集成电路。该芯片所有组件小型化至一块或数块集成电路内，可在其一端或多端接受编码指令，执行此指令并输出描述其状态的信号。这些指令能在内部输入、集中或存放起来。如中央处理器，CPU

芯片基础知识（二）计算机中主要芯片类型接口芯片接口，特指硬件类接口，是指同一计算机不同功能层之间的通信规则。接口芯片是指内有接口电路的芯片。功能特点有：设置数据的寄存、缓冲逻辑;进行信息格式的转换；协调CPU和外设两者在信息的类型和电平的差异设置中断和直接存储区访问控制逻辑；

芯片基础知识（三）存储器芯片又称存储器（Memory），是现代信息技术中用于保存信息的记忆设备。其概念很广，有很多层次，在数字系统中，只要能保存二进制数据的都可以是存储器；在集成电路中，一个没有实物形式的具有存储功能的电路也叫存储器，如RAM、FIFO等；在系统中，具有实物形式的存储设备也叫存储器，如内存条、TF卡等。

人工智能与芯片二

人工智能与芯片(一)人工智能开发应用不同阶段(二)神经网络在训练阶段的硬件需求(三)神经网络在预测阶段的硬件需求

人工智能与芯片（一）人工智能开发应用不同阶段训练预测决策训练过程是指在已有数据中学习，建立识别或预测某个目标任务模型的过程；预测决策过程则是指对新的数据，使用已经训练的模型完成特定任务，比如垃圾邮件分类、人脸识别等。

人工智能与芯片（二）神经网络在训练阶段的硬件需求12神经网络的训练过程对精度非常依赖，因为它直接影响预测的准确度。所以，支持训练的硬件必须支持具有较长字长的浮点数或定点数。另外，神经网络算法在训练中通常同时包括正向和反向的计算过程，并进行多次迭代，计算量要求非常高。这就需要支持训练的芯片不仅要具有强大的单芯片计算能力，还要具备很好的扩展性，可以通过多芯片系统提供更强大的计算能力。

人工智能与芯片（三）神经网络在预测阶段的硬件需求12使用已训练的神经网络模型来进行预测决策时，运算和存储的需求都远远低于训练。但由于神经网络模型的应用场景多种多样，模型部署的设备可以在从云到端，如数据中心、自动驾驶汽车、智慧家庭和IoT设备等，其需求和约束呈现出多样化的特点。对于多数应用来说，速度、能效、安全和硬件成本等是最重要的考虑因素，而模型的准确度和数据精度则可以依具体情况适当降低。

人工智能芯片类型三

人工智能芯片类型CPUGPUFPGAASIC类脑仿生芯片

人工智能与芯片（一）CPUCPU作为运算和控制核心，在未来高性能计算中将更多与其他专用芯片搭配使用。CPU由于要兼顾运算和控制功能，内部大量晶体管用于构建控制电路（比如分支预测等）和高速缓冲存储器（Cache），单从运算性能和效率上来说并不是计算芯片的最佳选择。由于之前人工智能高性能计算需求尚未集中出现，普通的机器学习和深度学习需求用传统CPU服务器也可以满足。

人工智能与芯片（一）CPU根据Intel内部报告统计，2016年服务器市场中有7%被用于人工智能产业，其中60%用于普通机器学习，40%用于深度学习，普通机器学习中97%使用传统CPU架构，1%使用CPU+GPU架构；深度学习中91%使用传统CPU架构，7%采用CPU+GPU架构。未来随着人工智能对计算性能和低能耗要求越来越高，以及GPU、FPGA、ASIC专用芯片等产品不断成