Construiré una app de LLM personalizada, ajustada finamente, con canal de entrenamiento y API

¿Quieres un modelo de IA que hable tu dominio y un producto funcional alrededor de él, funcionando de forma privada? Soy un científico de datos senior con más de 7 años en IA. He ajustado modelos LLM de código abierto con datos reales de negocio usando LoRA, PyTorch FSDP y DeepSpeed, reduciendo a 3 veces el tiempo de entrenamiento. Entrego la solución completa, no solo pesos del modelo.

Qué obtendrás:

Pipeline de entrenamiento: limpieza de datos, preparación de datasets, ajuste fino de LoRA o QLoRA de Llama, Mistral o Qwen, con evaluación de antes y después en tus propias preguntas de prueba.

API de servicio: inferencia rápida con vLLM, autenticación y límites de uso, desplegada en tu nube o servidor GPU.

Web app: interfaz de chat o de prueba más un panel de administración para comparar versiones del modelo, revisar salidas y rastrear uso.

Entrega: configuración de Docker, código fuente, documentación y una llamada de recorrido.

La web app es lo primero. Se puede añadir una app móvil más adelante como extensión.

Envíame una muestra de tus datos y tu objetivo, y confirmaré el paquete adecuado y las ganancias esperadas antes de que hagas el pedido.