Haré proyectos de modelos generativos

He estudiado arquitecturas de inteligencia artificial generativa y los fundamentos matemáticos de los modelos de lenguaje modernos, incluyendo Transformers, self-attention, generación autoregresiva y aprendizaje por transferencia.

Estoy entrando al quinto y último año de mi carrera de Ingeniería en Inteligencia Artificial, que dura cinco años.

Mi formación académica abarca arquitecturas de codificador, decodificador y codificador-decodificador, incrustaciones de tokens, codificación posicional, atención multi-cabeza y las diferencias entre modelos de lenguaje bidireccionales y causales. También he estudiado aprendizaje en contexto, adaptación de modelos preentrenados y la distinción entre tareas discriminativas y generativas. Mi experiencia en redes neuronales y programación en GPU proporciona una base técnica para seguir trabajando con modelos generativos.