问题描述

onnx算子精度是fp32,使用atc转换om后都变为fp16,精度降低了,即使使用--precision_mode=force_fp32,也无法保持原精度,如何保持原精度?

问题解决

尝试混合精度模式并锁定关键算子

使用 allow_mix_precision模式

atc --model=your_model.onnx \ 

    --framework=5 \ 

    --output=your_model \ 

    --soc_version=Ascend310 \  # 请替换为您的芯片版本 

    --precision_mode=allow_mix_precision \ 

    --op_precision_mode=MatMul:force_fp32,Conv:force_fp32,Gemm:force_fp32

更多推荐