onnxruntime评测模型精度不一致问题排查

gpu精度不一致问题追查 在做模型转换相关工作,但是最近发现转换后的模型精度评测的时候会出现两次评测精度不一致, 模型转换是从caffe转换成量化后的onnx模型,中间会有几个临时模型,分别为original_onnx, 这个是直接转换的模型,一个optimized_onnx,是对原onnx模型进行结构优化/整合后的模型,另一个为quantized_onnx模型,既量化后的模型,我们发现对量化后对
相关文章
相关标签/搜索