问:我们在onnx转换成trt之后,再进行一下int8量化,有相关...

问:我们在onnx转换成trt之后,再进行一下int8量化,有相关的代码给我们参考一下吗?
答复:看一下官方文档,还有github上的sample code:
https://github.com/NVIDIA/trt-samples-for-hackathon-cn/blob/master/samples/AppInt8.cpp
https://docs.nvidia.com/deeplearning/frameworks/tf-trt-user-guide/index.html#int8-quantization