Integraré un llm en tu backend existente de java spring boot o go


Acerca de este Servicio
Traducción automática
Tienes un servicio de Spring Boot o Go que ya tiene tráfico, pruebas y un proceso de lanzamiento, y ahora alguien quiere integrar IA. Cada freelancer de IA con el que has hablado solo sabe Python y quiere reescribir tu backend o agregar un servicio Python separado sin un plan para manejar fallos.
Soy ingeniero de backend primero. Spring Boot, Kafka, Kubernetes y Go en producción para un importante banco de inversión de EE.UU. y un proveedor de seguros estadounidense, y he implementado servicios de LLM en esos mismos sistemas en vivo, dentro de sus procesos de control de cambios y cumplimiento.
Por eso puedo integrar un modelo en tu sistema sin romper las partes que ya funcionan.
LO QUE HAGO
Decidir si el LLM debe estar en proceso o como un servicio separado, definir la ruta de fallo cuando el modelo sea lento o esté caído, agregar timeouts, reintentos y circuit breakers, y mantener todo testeable en CI sin llamar a una API pagada en cada ejecución.
La última parte es la que la gente suele omitir, y por eso su función de IA no puede ser probada.
Conoce a Gaurav S
Backend AI Systems Engineer
- DeIndia
- Miembro desdefeb 2024
- Responde aprox. en:2 horas
- Última entrega2 años
Idiomas
Inglés, Hindi
Traducción automática
Mi porfolio
Otros servicios de Desarrollo de IA que ofrezco
FAQ
Traducción automática
Mi backend no es Java ni Go.
Envíame un mensaje. También puedo trabajar con Python y Node — los nombres Java y Go aparecen porque esa es la combinación que casi nadie más ofrece.
¿Necesitarás cambiar mi arquitectura?
Mi opción predeterminada no es esa. Te diré antes de comenzar si creo que algo debe cambiar y por qué.
¿Cómo pruebo una función de LLM?
Simulado en el límite para CI, además de una pequeña suite de evaluación que se ejecuta por separado contra el modelo real. Ambos están incluidos desde Standard en adelante. Esto es lo que más comúnmente las equipos fallan.
¿Puedes trabajar con nuestra revisión de cumplimiento o seguridad?
Sí. Implemento funciones de LLM dentro del proceso de revisión de un banco — estoy acostumbrado a escribir el documento, no solo el código.
¿Necesitas acceso a producción?
No, y preferiría no tenerlo. Un entorno de desarrollo es suficiente.

