Ajustaré finamente y entrenaré llms con pytorch y huggingface

Afino modelos abiertos con tus datos para que realmente entiendan tu terminología, tus documentos y tu caso de uso.

Lo que hago

• Afino modelos LLM con pesos abiertos usando LoRA o fine-tuning completo, en PyTorch y HuggingFace
• Limpio y estructuro tus datos en bruto en un conjunto de entrenamiento usable, que suele ser la parte más difícil
• Construyo un sistema de evaluación para que la calidad se mida, no se adivine
• Exporto para producción: ONNX, TorchScript o una API de inferencia desplegada
• Ejecutarlo en tu infraestructura, para que no haya costos por token en la API

Trabajo reciente: afine un modelo con la documentación interna de un cliente. La precisión en su benchmark pasó de aproximadamente 60% a más del 90%, ejecutándose en su propio hardware.

Cómo trabajo

Construyo el conjunto de evaluación antes de entrenar cualquier cosa. Sin él, no hay forma de saber si una ejecución mejoró las cosas o las empeoró, y la mayoría de los proyectos de fine-tuning omiten este paso.

También te diré cuándo el fine-tuning no es la mejor opción, a veces RAG o un mejor prompting te llevan allí por mucho menos.

Envíame un mensaje con tu caso de uso y tamaño del dataset, y te diré qué es realista.