Crearé mezcla de expertos, razonamiento cot, cuantización de llms

La mayoría de las personas que construyen "proyectos LLM" llaman a la API de OpenAI y la envuelven en una interfaz de chatbot. Eso no es ingeniería de LLM, es plomería.

Trabajo en el interior: arquitectura, razonamiento y optimización. Si necesitas algo más allá de un envoltorio de prompt, este es el trabajo.

Lo que realmente construyo:

Mezcla de Expertos (MoE) enrutamiento de expertos escasos, redes de compuerta, pérdidas de balanceo de carga, capas MoE personalizadas construidas desde cero o ajustadas sobre arquitecturas existentes

Razonamiento Chain-of-Thought pipelines de prompting CoT/ToT, decodificación de autoconciencia, destilación de razonamiento en modelos más pequeños, verificación de pasos y razonamiento guiado por recompensas

Cuantización cuantización INT8/INT4, GPTQ, AWQ, QLoRA, conversión GGUF para despliegue local/edge, evaluación de compromisos entre precisión y velocidad antes de decidirte por una configuración

También cubre: ajuste fino (LoRA/QLoRA), compresión de modelos, optimización de inferencia y despliegue en hardware limitado.

Por qué esto importa:

Un modelo que razona bien pero no puede correr en tu hardware es inútil. Un modelo cuantizado que es rápido pero tonto es peor. Construyo para la restricción real que estás resolviendo: costo, latencia, precisión o los tres, no solo lo que está de moda en Twitter.