Optimizaré y desplegaré tu modelo pytorch con ONNX y TensorRT
Ingeniero de IA y Visión por Computadora
Acerca de este Servicio
¿Tu modelo funciona pero es demasiado lento o pesado para producción? Lo convertiré y optimizaré con ONNX y TensorRT para que funcione más rápido en GPUs y dispositivos edge, y revisaré que la precisión se mantenga donde debe.
Soy ingeniero de visión por ordenador con más de 3 años implementando sistemas CV en producción. Optimizo modelos con ONNX/TensorRT para quioscos y dispositivos móviles y los sirvo a través de FastAPI en sistemas que operan en 60+ tiendas minoristas.
Lo que puedo hacer:
- Exportar modelos PyTorch a ONNX y verificar que las salidas coincidan con las originales
- Construir motores TensorRT FP16 y medir la ganancia de velocidad
- Evaluar latencia y precisión antes y después
- Arreglar problemas comunes de exportación (operaciones no soportadas, formas dinámicas)
- Servir el modelo optimizado con FastAPI + Docker
Lo que obtendrás:
- Archivos del modelo optimizados + código de inferencia
- Informe de benchmarks (latencia, precisión, hardware utilizado)
- Instrucciones claras para ejecutarlo en tu máquina
Por favor, envíame un mensaje antes de hacer el pedido con el tipo de modelo, versión del framework y hardware objetivo (modelo de GPU o dispositivo edge) para confirmar el alcance.
Lenguaje de programación:
Python
Herramientas:
opencv
•
TensorFlow
•
PyTorch
Marcos:
PyTorch
