原创力文档- 0
- 0
- 约2.38万字
- 约 20页
- 2023-07-05 发布于四川
- 举报
本发明实施例公开了一种数据处理方法、装置、电子设备及存储介质。数据处理方法，包括：确定浮点类型数据的第一目标待转换数值和目标数据位宽；根据所述第一目标待转换数值和所述目标数据位宽计算所述浮点类型数据的目标转换量纲；根据所述第一目标待转换数值和所述目标转换量纲计算所述浮点类型数据的目标转换数值；根据所述目标转换量纲和所述目标转换数值确定所述浮点类型数据匹配的定点类型数据；根据所述定点类型数据进行数据处理操作。本发明实施例的技术方案能够降低定点数值的位宽，从而提高数据处理的利用率和效率。
(19)中华人民共和国国家知识产权局
(12)发明专利申请
(10)申请公布号 CN 113805844 A
(43)申请公布日 2021.12.17
(21)申请号 202111073266.5
(22)申请日 2021.09.14
(71)申请人 北京升哲科技有限公司
文档评论（0）