寒武纪神经网络计算机.pdfVIP

寒武纪神经网络计算机寒武纪神经网络计算机 中国科学院计算技术中国科学院计算技术研究所究所 计算机体系结构国家重点实验室 陈天石 体系系结构与构与机器学学习的交叉  体系结构的角度体系结构的角度  内部结构复杂的系统  AIAI方法辅助设计方法辅助设计  机器学习的角度  支撑支撑机器学习的手段是计算机器学习的手段是计算  计算系统的能力是潜在瓶颈 2 提纲  基于机器学习方法的处理器研发基于机器学习方法的处理器研发  优化处理器结构参数  优化处理器片上网络优化处理器片上网络  处理器功能验证  寒武纪神经网络计算机  寒武纪1号（DianNao ）  寒武纪2号（DaDianNao ）  未来展望 优化处理器结构参构参数  处理器研发初期的最关键步骤  选择最合选择最合适的处理器参参数以最最大化处理器的性能能/ 效能能  待定参数很多：发射宽度、功能部件数量、各级缓存大小… 22  设计约束不少设计约束不少：““功耗功耗50 瓦瓦””、 ““面积面积10mm ””… 4 优化处理器结构参构参数  处理器可选参数组合极多  处理器结构空间规模随参数数量指数增长处理器结构空间规模随参数数量指数增长  数千万甚至上亿可能的参数组合  处理器模拟速度极为缓慢处理器模拟速度极为缓慢  芯片还没制造出来，只以软件形式模拟执行  模拟速度比真实处理器运算速度差了模拟速度比真实处理器运算速度差了33~55 个数量级个数量级！！  蛮力遍历整个参数空间？  总耗时总耗时 == 模拟单个处理器参数组合的时间模拟单个处理器参数组合的时间 xx 可能的参数组合总数可能的参数组合总数  演化算法+ 代理模型 5 优化处理器结构参构参数  处理器性能的回归建模(IJCAI’11; TIST’13)  采样采样：模拟少量处理器参数组合模拟少量处理器参数组合  处理器结构优化的主要时间开销  建模建模：：通过样本训练回归模型通过样本训练回归模型  半监督学习(co-training)、主动学习  预测预测：：通过模型预测处理器参数组合对应的通过模型预测处理器参数组合对应的绝对绝对 性能/功耗 1 两棵回归树互相为对方标记样本 1.两棵回归树互相为对方标记样本 2.每次仅标记使最小均方误差降低最大的（未标记）样本 优化处理器结构参构参数  处理器性能的排序建模(ISCA’14)  预测处理器配置的预测处理器配置的相对好坏相对好坏  排序学习  处理器参数选择处理器参数选择加速加速33-1010倍倍 高 性 能 预测性能相对好坏即可， 不用花大力气去准确花大力气去准确预测测 绝对性能。 低 低