Ajustaré finamente tu llm con datos personalizados usando lora y qlora

El ajuste fino vale la pena cuando un modelo necesita hablar en tu dominio, seguir tu formato o manejar tu terminología de manera consistente. No vale la pena cuando solo necesitas que el modelo busque información. Te diré cuál necesitas realmente antes de que gastes algo.

Lo que hago:

Fine-tuning con LoRA y QLoRA de modelos abiertos: Llama, Mistral, Qwen, Gemma, Phi

Fine-tuning completo y ajuste por instrucciones cuando tus datos lo justifican

Fine-tuning en OpenAI a través de su API

Adaptación al dominio para textos médicos, legales, financieros y técnicos

Sistemas RAG cuando la recuperación es la mejor opción

Preparación de datos de entrenamiento, que suele ser donde los proyectos tienen éxito o fracasan

Pila: Hugging Face Transformers, PEFT, Unsloth, Axolotl, PyTorch, Weights and Biases para seguimiento.

Recibes los pesos entrenados alojados donde tú quieras, el script de entrenamiento con toda la documentación, resultados de evaluación comparando tu modelo ajustado con el modelo base para que puedas ver qué cambió, un script de inferencia y una guía para volver a entrenar cuando tus datos crezcan.

Necesitas aproximadamente de 50 a 100 ejemplos para un ajuste fino ligero de OpenAI, o 500 o más para modelos abiertos. La calidad supera a la cantidad, y te ayudaré a construir el conjunto.