Haré auditoría de explicabilidad de modelo AI

H
hassaangame
H
hassaangame
Hassaan Syed
Parte de la información se ha traducido automáticamente.

Acerca de este Servicio

Traducción automática

¿Tu modelo de imagen es correcto por las razones adecuadas?

Una alta precisión puede esconder atajos: un modelo que lee marcas de agua, reglas, etiquetas de texto o bordes de escáner en vez del objeto. Esos modelos fracasan en el mundo real. Auditaré tu clasificador de imágenes entrenado y mostraré, con evidencia, en qué realmente se apoya.

Qué reviso:

  • Grad-CAM, Gradientes integrados y mapas de calor de saliencia
  • Prueba de atajo: ¿la precisión colapsa cuando se mueve o voltea un artefacto sospechoso?
  • Prueba de fidelidad: ¿los mapas de calor señalan píxeles que el modelo realmente usa?
  • Chequeo de sanidad: ¿las explicaciones dependen de los pesos entrenados en absoluto?
  • Informe con veredictos claros, cifras, métricas en crudo y recomendaciones de corrección

Funciona con clasificadores de imágenes de PyTorch (Keras bajo solicitud). Datos de imágenes médicos, industriales, minoristas y generales. Tu modelo y tus datos se mantienen confidenciales y se eliminan tras la entrega.

Sobre mí: investigadora de doctorado en IA explicable para imagen médica y profesora de informática.

Por favor, envíame un mensaje antes de hacer el pedido con el tipo de modelo, número de clases y tamaño del conjunto de datos para poder confirmar el paquete correcto.

Conoce a Hassaan Syed

Hassaan Syed

AI Specialist

  • DePakistán
  • Miembro desdejul 2018
  • Idiomas

    Inglés
I audit and build image classifiers so you can trust what they learned. Many accurate models secretly rely on shortcuts like watermarks, text tags or scanner borders, and then fail after deployment. I find those shortcuts with explainable AI (Grad-CAM, Integrated Gradients) and back every finding with faithfulness and sanity tests. I’m a PhD researcher in explainable AI for medical imaging and a Computer Science lecturer, and I work in PyTorch. You get a clear report with verdicts and fixes. Your data stays confidential. Message me before ordering so we can scope your project.

Traducción automática