modelo MXNET se puede utilizar para desplegar TensorRT, el proceso es generalmente el modelo en MXNET ONNX, a continuación, convertirse en archivos serializados TensorRT TensorRT ONNX el intérprete. Pero este proceso, MXNET se puede convertir en el PO no necesariamente resulta ONNX y ONNX sólo una parte de la OP se puede lograr en TensorRT.
operaciones de apoyo TensorRT
Puede referirse TensorRT documentos oficiales , hay además de la introducción de las operaciones de apoyo OP, así como en las plataformas soportadas y apoyo INT8 capa comprimida y otra información.
Podemos ver que debido a ONNX de código abierto , debe ser capaz de encontrar las operaciones de apoyo complemento recompilando, pero no encontrar instrucciones para agregar el plugin, los problemas desde el punto de vista de alguien mencionó que este tema , pero no hay respuesta.
operaciones de apoyo ONNX
operaciones de apoyo ONNX pueden github del proyecto ONNX vista, Operators.md declaró en apoyo de la acción y su descripción.
De acuerdo con el formato de conversión introdujo Uff (ii) TensorRT 4 describe el modelo básico y TensorFlow digamos, ONNX no soporta la capa personalizada.
operaciones de apoyo MXNET
operaciones de apoyo MXNET pueden MXNET web oficial de NDArray API de vista, las operaciones de apoyo de comando de escritura y sus descripciones.
MXNET operación real se puede convertir en ONNX puede github del pitón / mxnet / contrib / onnx / mx2onnx / _op_translations.py punto de vista, la operación debe tenerse en cuenta que, aparentemente, sólo se prueba que la versión compilada puede ser apoyado por la rama principal, la versión instalada en su ordenador necesita mirar el camino pitón posición correspondiente. Por ejemplo, la rama principal como la versión no publicada 1.5.0, añade soporte para Deconvolución y otras operaciones, y la versión actual a 1.4.1 no admite estas operaciones, aunque sólo sea modelo de conversión temporal, puede contrib en la rama master / onnx en general sustituir su propia versión del archivo de pitón.
Encuentra Preguntas
MXNET girar TensorRT encontró un problema es normal, el problema puede ser más de GitHub y vistazo a los foros pertinentes:
1, MXNET del tema
2, MXNET el foro (ya veces no se puede abrir ...)
3, ONNX del tema
4, TensorRT del foro
