一种基于异构计算的任务处理方法及软硬件框架系统.pdf

(19)中华人民共和国国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 111258744 A (43)申请公布日 2020.06.09 (21)申请号 201811453751.3 (22)申请日 2018.11.30 (71)申请人 中兴通讯股份有限公司 地址 518057 广东省深圳市南山区高新技 术产业园科技南路中兴通讯大厦法务 部 (72)发明人 朱方　李秀　 (74)专利代理机构 北京安信方达知识产权代理 有限公司 11262 代理人 蒋冬梅　龙洪 (51)Int.Cl. G06F 9/50(2006.01) G06F 15/173(2006.01) 权利要求书3页 说明书16页 附图13页 (54)发明名称 一种基于异构计算的任务处理方法及软硬 件框架系统 (57)摘要 本申请公开了一种基于异构计算的任务处 理方法及软硬件框架系统；上述任务处理方法， 包括：将人工智能分析任务分解为一级或多级子 任务，通过一级或多级子任务对应的一个或多个 分析功能单元服务采用分级数据流的方式完成 人工智能分析任务；其中，不同级的子任务的类 型不同，同一类型的子任务对应一个分析功能单 元服务，每一分析功能单元服务对多个异构单元 统一调度以执行相应的子任务。 A 4 4 7 8 5 2 1 1 1 N C CN 111258744 A 权　利　要　求　书 1/3页 1.一种基于异构计算的任务处理方法，应用于包括多个异构单元的工作节点，所述方 法包括： 将人工智能分析任务分解为一级或多级子任务，其中，不同级的子任务的类型不同，同 一类型的子任务对应一个分析功能单元服务； 通过所述一级或多级子任务对应的一个或多个分析功能单元服务采用分级数据流的 方式完成所述人工智能分析任务，其中，每一分析功能单元服务对多个异构单元统一调度 以执行相应的子任务。 2.根据权利要求1所述的方法，其特征在于，每一分析功能单元服务为一个进程，对应 一个运行上下文环境。 3.根据权利要求1所述的方法，其特征在于，所述多级子任务由同一异构单元流式执 行，或者由至少两个异构单元流式执行。 4.根据权利要求1所述的方法，其特征在于，所述工作节点通过标准的软件标准命令解 析层Software Shell和硬件标准命令解析层Hardware Shell实现以下标准特性：单个工作 节点内存统一化；单个异构单元多任务进程并发支持；异构单元之间远程直接数据存取 RDMA；异构单元计算和传输并发。 5.根据权利要求4所述的方法，其特征在于，不同分析功能单元服务之间通过硬件抽象 层HAL提供的RDMA内存服务实现数据流交互。 6.根据权利要求1所述的方法，其特征在于，每一分析功能单元服务记录对应的子任务 的运行结果快照。 7.根据权利要求1所述的方法，其特征在于，所述工作节点上部署异构计算管理框架， 用于支持基于异构守护进程的异构单元；所述异构计算管理框架至少包括：异构守护客户 端、异构守护服务端； 所述异构守护客户端适于维护和管理人工智能分析任务的加速计算任务队列，管理客 户端侧任务场景，并提供客户端侧人工智能分析任务的输入数据和输出数据的读写标准接 口； 所述异构守护服务端包括应用层任务管理模块以及内核层加速模块块型驱动管理模 块；所述应用层任务管理模块适于提供客户端服务接口，维护和管理服务端侧人工智能分 析任务的加速计算任务队列，管理服务端侧任务场景；所述内核层加速模块块型驱动管理 模块适于提供块驱动数据读写接口，