L4-P06量化策略和精度提升方法
练习手册
在MoPaaS平台,创建开发环境时,请选择pytorch2.4…
实践1.平滑量化smoothquan
名:ex1_smoothquant.py
环境安装建议
pipinstalltorchtransformersoptimum-intelneural-compressordatasetspsutil
检查软件版本号:
piplist|grep-Etorch|transformers|optimum|neural-compressor|datasets|psutil
以下环境可以
原创力文档

文档评论(0)