问:导师们,我想问一个问题,就是我把我的PyTorch模型用O...

问:导师们,我想问一个问题,就是我把我的PyTorch模型用ONNX导出了,其中有一个不支持的算子,我用symbolic标记出来后,通过ONNX_FALLTHROUGH模式强制导出了。
然后我要把它导入进TRT,我直接用trtexec导出不能直接成功,因为那个不支持的OP的存在。
那我现在已经为这个OP写好了Plugin,能通过trtexec在onnx转trt过程给予支持吗?
答复:这个不行 要按照plug-in 开发流程 。参考:https://docs.nvidia.com/deeplearning/tensorrt/developer-guide/index.html#extending
Extending TensorRT With Custom Layers
https://zhuanlan.zhihu.com/p/297002406