NVIDIA 开发者论坛
问:我的课题是做混合精度量化,现在的P4架构我看只有int...
技术博客与活动
历史活动
TRT Hackathon
GPUS-Cat
2021 年4 月 14 日 06:20
1
问:我的课题是做混合精度量化,现在的P4架构我看只有int8的量化,是这样吗?
答:你想用int4吗?TensorRT现在还不支持使用int4,Int16也不支持。