人工智能加速器、设备、芯片以及数据处理方法.pdf

(19)中华人民共和国国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 111352896 A (43)申请公布日 2020.06.30 (21)申请号 202010140537.3 (22)申请日 2020.03.03 (71)申请人 腾讯科技（深圳）有限公司 地址 518057 广东省深圳市南山区高新区 科技中一路腾讯大厦35层 (72)发明人 孟玉　 (74)专利代理机构 广州三环专利商标代理有限 公司 44202 代理人 熊永强　杜维 (51)Int.Cl. G06F 15/78(2006.01) G06N 3/04(2006.01) G06N 3/063(2006.01) G06N 3/08(2006.01) 权利要求书2页 说明书18页 附图16页 (54)发明名称 人工智能加速器、设备、芯片以及数据处理 方法 (57)摘要 本申请实施例公开了一种人工智能加速器、 设备、芯片以及数据处理方法，人工智能加速器 包括指令解析单元、指令调度单元以及处理引擎 集合；指令解析单元，用于读取目标长指令，目标 长指令包括第一引擎标识集合、第一配置信息集 合、第二引擎标识集合和第二配置信息集合；指 令调度单元，用于按照第一引擎标识集合从处理 引擎集合中抽取第一处理引擎子集，按照第二引 擎标识集合从处理引擎集合中抽取第二处理引 擎子集，根据第一配置信息集合调用第一处理引 擎子集执行第一业务处理集合；当第一处理引擎 A 子集中存在处理引擎执行完毕时，根据第二配置 6 信息集合调用第二处理引擎子集执行第二业务 9 8 2 处理集合。采用本申请，可以缩短对神经网络模 5 3 1 型的处理时长。 1 1 N C CN 111352896 A 权　利　要　求　书 1/2页 1.一种人工智能加速器，其特征在于，包括指令解析单元、指令调度单元以及处理引擎 集合； 所述指令解析单元，用于读取目标长指令，所述目标长指令是对并行排布的目标神经 网络模型进行适配生成的指令；所述目标长指令包括第一单位指令和第二单位指令；所述 第一单位指令包括第一引擎标识集合以及第一配置信息集合；所述第二单位指令包括第二 引擎标识集合以及第二配置信息集合； 所述指令调度单元，用于按照所述第一引擎标识集合从所述处理引擎集合中抽取第一 处理引擎子集，并按照所述第二引擎标识集合从所述处理引擎集合中抽取第二处理引擎子 集；以及，根据所述第一配置信息集合调用所述第一处理引擎子集执行第一业务处理集合； 当所述第一处理引擎子集中存在处理引擎执行完毕时，根据所述第二配置信息集合调用所 述第二处理引擎子集执行第二业务处理集合。 2.根据权利1所述的人工智能加速器，其特征在于，对并行排布的目标神经网络模型进 行适配生成的指令被存储在长指令集合中，所述目标长指令是所述长指令集合中的任意一 个； 所述人工智能加速器还包括：指令编译单元、指令队列单元以及片外缓存单元； 指令编译单元，用于按照执行顺序将所述目标神经网络模型并行排布为多条短指令流 水，将所述多条短指令流水编译为所述长指令集合，将所述长指令集合存储至所述片外缓 存单元； 指令队列单元，用于从所述片外缓存单元读取所述目标长指令，并缓存所述目标长指 令以供所述指令解析单元读取。 3.根据权利要求2所述的人工智能加速器，其特征在于，当所述目标长指令执行完毕 时，所述指令解析单元从所述指令队列单元读取下一个目标长指令。 4.根据权利2所述的人工智能加速器，其特征在于，所述第一处理引擎子集包括