Integraré un llm en tu backend existente de java spring boot o go

G
gaurav_sinha_31
G
gaurav_sinha_31
Gaurav S
Parte de la información se ha traducido automáticamente.

Acerca de este Servicio

Traducción automática

Tienes un servicio de Spring Boot o Go que ya tiene tráfico, pruebas y un proceso de lanzamiento, y ahora alguien quiere integrar IA. Cada freelancer de IA con el que has hablado solo sabe Python y quiere reescribir tu backend o agregar un servicio Python separado sin un plan para manejar fallos.


Soy ingeniero de backend primero. Spring Boot, Kafka, Kubernetes y Go en producción para un importante banco de inversión de EE.UU. y un proveedor de seguros estadounidense, y he implementado servicios de LLM en esos mismos sistemas en vivo, dentro de sus procesos de control de cambios y cumplimiento.


Por eso puedo integrar un modelo en tu sistema sin romper las partes que ya funcionan.


LO QUE HAGO

Decidir si el LLM debe estar en proceso o como un servicio separado, definir la ruta de fallo cuando el modelo sea lento o esté caído, agregar timeouts, reintentos y circuit breakers, y mantener todo testeable en CI sin llamar a una API pagada en cada ejecución.


La última parte es la que la gente suele omitir, y por eso su función de IA no puede ser probada.

Conoce a Gaurav S

Gaurav S

Backend AI Systems Engineer

5.0(1)
  • DeIndia
  • Miembro desdefeb 2024
  • Responde aprox. en:2 horas
  • Última entrega2 años
  • Idiomas

    Inglés, Hindi
Backend engineer with nearly four years of production experience building event-driven systems and shipping LLM-backed services into live products at a US investment bank and a US insurance provider. I specialize in what most AI work skips: putting a model inside a service that already has traffic, tests and a release process it cannot break. Retrieval quality, evaluation harnesses, defined failure behavior. Spring Boot, Go, Python, Kafka, Kubernetes, AWS, LangChain, LangGraph, RAG, vector databases, QLoRA. Available full time.

Traducción automática

Mi porfolio