Optimizaré y desplegaré tu modelo pytorch con ONNX y TensorRT

Parte de la información se ha traducido automáticamente.

Corea del Sur

Hablo Uzbeko, Coreano, Inglés, Ruso

Ingeniero de IA y Visión por Computadora

Ingeniero de IA / Visión por computadora con más de 3 años lanzando sistemas de CV en producción. Mis modelos se ejecutan en 60+ tiendas minoristas y han procesado más de 8 millones de análisis para m...
Acerca de este Servicio

¿Tu modelo funciona pero es demasiado lento o pesado para producción? Lo convertiré y optimizaré con ONNX y TensorRT para que funcione más rápido en GPUs y dispositivos edge, y revisaré que la precisión se mantenga donde debe.


Soy ingeniero de visión por ordenador con más de 3 años implementando sistemas CV en producción. Optimizo modelos con ONNX/TensorRT para quioscos y dispositivos móviles y los sirvo a través de FastAPI en sistemas que operan en 60+ tiendas minoristas.


Lo que puedo hacer:

- Exportar modelos PyTorch a ONNX y verificar que las salidas coincidan con las originales

- Construir motores TensorRT FP16 y medir la ganancia de velocidad

- Evaluar latencia y precisión antes y después

- Arreglar problemas comunes de exportación (operaciones no soportadas, formas dinámicas)

- Servir el modelo optimizado con FastAPI + Docker


Lo que obtendrás:

- Archivos del modelo optimizados + código de inferencia

- Informe de benchmarks (latencia, precisión, hardware utilizado)

- Instrucciones claras para ejecutarlo en tu máquina


Por favor, envíame un mensaje antes de hacer el pedido con el tipo de modelo, versión del framework y hardware objetivo (modelo de GPU o dispositivo edge) para confirmar el alcance.

Experiencia:

Clasificación

•

Desarrollo de software

Lenguaje de programación:

Python

Herramientas:

opencv

•

TensorFlow

•

PyTorch

Marcos:

PyTorch

Mi porfolio