问:我的课题是做混合精度量化,现在的P4架构我看只有int...

问:我的课题是做混合精度量化,现在的P4架构我看只有int8的量化,是这样吗?
答:你想用int4吗?TensorRT现在还不支持使用int4,Int16也不支持。