Optimizaré tu modelo de PyTorch con cuantización y exportación a ONNX

Parte de la información se ha traducido automáticamente.

Turquía

Hablo Turco, Inglés

Ingeniero de Visión por Computador y AR, Investigador PhD

Investigador PhD en visión por computadora con publicaciones revisadas por pares en aprendizaje profundo eficiente. Hago que los modelos de visión sean más pequeños y rápidos en hardware real: distila...
Acerca de este Servicio

¿Tu modelo de PyTorch es demasiado lento, demasiado grande o demasiado caro para ejecutar en producción? Soy investigador de doctorado en visión por computadora con publicaciones revisadas por pares sobre compresión de modelos y distilación de conocimiento. Haré que tu modelo sea más pequeño y rápido sin perder precisión en exceso.


Lo que puedo hacer:

  • Cuantización post-entrenamiento (FP16 / INT8) y entrenamiento consciente de la cuantización
  • Ajuste estructurado y no estructurado
  • Distilación de conocimiento en una red estudiante más pequeña
  • Exportar a ONNX / ONNX Runtime, además de TensorRT o Core ML cuando tu hardware lo soporte
  • Benchmarks antes/después: latencia, tamaño del modelo, memoria y precisión


Lo que obtendrás:

  • Archivos de modelo optimizados y código Python limpio y documentado
  • Un informe corto que explique cada cambio y su costo de precisión


Por favor, envíame un mensaje antes de hacer el pedido con la arquitectura de tu modelo, la versión del framework, el hardware objetivo (GPU, CPU, Jetson, móvil) y tu presupuesto de precisión, para poder confirmar el paquete correcto.

Experiencia:

Procesamiento de imágenes

Lenguaje de programación:

Python

•

Colab

Herramientas:

Jupyter Notebook

•

opencv

•

PyTorch

Marcos:

keras

•

PyTorch