Ajustaré un LLM de código abierto a tu conjunto de datos personalizado
Ingeniero de IA, sistemas RAG, ajuste fino de LLM, LangChain Python
Acerca de este Servicio
¿Quieres ajustar un LLM de código abierto a tus
propios datos? Creo pipelines de ajuste personalizados que
realmente mejoran el rendimiento del modelo.
Recientemente completé EdgeAlign, una pipeline completa de SFT a alineación DPO en Qwen3-0.6B usando adaptadores LoRA y cuantización NF4 de 4 bits.
Resultados:
- Puntuación BLEU: 3.70 (valor base) a 10.22 (+176% de mejora)
- BERTScore: 0.7675 (valor base) a 0.8149
- Realicé 10 pruebas sistemáticas variando el rango de LoRA, la tasa de aprendizaje y el beta de DPO
- Ambos adaptadores LoRA publicados en HuggingFace
Lo que obtendrás:
- Ajuste personalizado a tu conjunto de datos (SFT y/o DPO)
- Adaptadores LoRA (ligeros, fáciles de implementar)
- Métricas de evaluación (BLEU, BERTScore, curvas de pérdida)
- Código Python limpio y documentado
- Tarjeta de modelo en HuggingFace (Premium)
- Modelo desplegado en HuggingFace Hub (Premium)
Modelos que puedo ajustar:
- Qwen (0.6B, 1.8B, 7B)
- LLaMA (1B, 3B, 8B)
- Mistral (7B)
- Phi-3 / Phi-2
- Gemma (2B, 7B)
- Cualquier modelo de código abierto en HuggingFace
Lo que necesito de ti:
- Tu conjunto de datos (JSONL, CSV o texto plano)
- Descripción de la tarea (seguimiento de instrucciones, resumen,
clasificación, Q&A, etc.)
- Modelo base preferido (o te recomiendo uno)
Envíame un mensaje antes de ordenar para discutirlo
Lenguaje de programación:
Python
Marcos y herramientas de modelos de IA:
Tipo de datos:
Texto
•
Datos tabulares
Motor de IA:
GPT
•
Llama
•
Falcon
•
Langchain
•
Otros
Mi porfolio
FAQ
Traducción automática
¿En qué formato debe estar mi dataset?
Idealmente en JSONL con campos de instrucción/entrada/salida, o CSV. Puedo ayudarte a reformatear datos en bruto al formato correcto si es necesario, solo comparte una muestra primero.
¿Qué pasa si mi conjunto de datos es pequeño (menos de 500 muestras)?
Los conjuntos de datos pequeños son adecuados para ajuste LoRA. Envíame un mensaje con tu cantidad de muestras y te aconsejaré sobre la mejor estrategia.
¿Seré dueño del modelo fine-tuned?
Sí, obtienes la propiedad total de los adaptadores LoRA y todo el código. El paquete Premium incluye despliegue en tu propia cuenta de HuggingFace.
¿Puedes ajustar finamente GPT-4 o Claude?
No, esos son modelos de código cerrado y no se pueden ajustar finamente de esta manera. Trabajo con modelos de código abierto en HuggingFace (LLaMA, Qwen, Mistral, Gemma, Phi, etc.)
¿Qué métricas de evaluación proporcionas?
Puntuación BLEU, BERTScore, curvas de pérdida de entrenamiento/validación, y comparaciones de salida de muestra contra la línea base. El paquete Premium incluye un estudio de ablación completo.
