一种结构搜索方法及结构搜索装置.pdf

(19)中华人民共和国国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 111428854 A (43)申请公布日 2020.07.17 (21)申请号 202010055831.4 (22)申请日 2020.01.17 (71)申请人 华为技术有限公司 地址 518129 广东省深圳市龙岗区坂田华 为总部办公楼 (72)发明人 肖安　徐宇辉　谢凌曦　张晓鹏　 魏龙辉　田奇　 (74)专利代理机构 深圳市深佳知识产权代理事 务所(普通合伙) 44285 代理人 王仲凯 (51)Int.Cl. G06N 3/04(2006.01) G06N 3/08(2006.01) 权利要求书4页 说明书21页 附图17页 (54)发明名称 一种结构搜索方法及结构搜索装置 (57)摘要 本申请公开了人工智能领域的一种结构搜 索方法及结构搜索装置，用于神经网络构建，以 构建单元在硬件上的预测延迟作为约束条件，确 定出符合时延要求的神经网络，实现人工智能中 的神经网络构建。该方法包括：获取用于请求创 建在预设硬件上运行的神经网络的目标任务；随 后根据目标任务获取超级单元，该超级单元包括 多个节点，该多个节点中的任意两个节点之间通 过多种基础运算连接；随后延迟预测模型的输出 作为约束条件对超级单元进行搜索，确定出至少 一个第一构建单元，该延迟预测模型用于输出预 测延迟，该预测延迟为超级单元所包括的构建单 A 元在预设硬件上运行时的预测延迟；对至少一个 4 第一构建单元进行堆叠，得到神经网络。 5 8 8 2 4 1 1 1 N C CN 111428854 A 权　利　要　求　书 1/4 页 1.一种结构搜索方法，其特征在于，包括： 获取目标任务，所述目标任务用于请求创建在预设硬件上运行的神经网络； 根据所述目标任务获取超级单元，所述超级单元包括多个节点，所述多个节点中的任 意两个节点之间通过多种基础运算连接； 以延迟预测模型的输出作为约束条件对所述超级单元进行搜索，确定出至少一个第一 构建单元，所述延迟预测模型用于输出预测延迟，所述预测延迟为所述超级单元所包括的 构建单元在所述预设硬件上运行时得到输出结果的预测时长，所述延迟预测模型为根据多 个第二构建单元的信息进行训练得到，所述多个第二构建单元的信息包括所述多个第二构 建单元中每个第二构建单元的结构和所述每个第二构建单元的运行延迟，所述运行延迟为 所述每个第二构建单元在所述预设硬件上运行得到输出结果的时长，所述至少一个第一构 建单元中的每个第一构建单元、所述超级单元所包括的构建单元和所述每个第二构建单元 包括所述多个节点，所述多个节点中的任意两个节点之间通过所述多种基础运算中的至多 一种连接，且所述多个节点中的每个节点连接有所述多种基础运算中的至少一种； 对所述至少一个第一构建单元进行堆叠，得到所述神经网络。 2.根据权利要求1所述的方法，其特征在于，在以延迟预测模型的输出作为约束条件对 所述超级单元进行搜索之前，所述方法还包括： 获取所述每个第二构建单元的结构； 测试所述每个第二构建单元的所述运行延迟； 基于所述每个第二构建单元的结构、所述每个第二构建单元的运行延迟和预设回归模 型进行训练，得到所述延迟预测模型。 3.根据权利要求2所述的方法，其特征在于，所述基于所述每个第二构建单元的结构、 所述每个第二构建单元的运行延迟和预设回归模型进行训练，包括： 将所述多个第二构建单元分为两类，得到第一类构建单元和第二类构建单元；