Desplegaré y gestionaré infraestructura de mlops, llm y gpu en aws y kubernetes

Parte de la información se ha traducido automáticamente.

India

Hablo Hindi, Inglés

19 pedidos completados

Ingeniero senior de DevOps en IA: AWS, Kubernetes, APIs de ComfyUI, DevSecOps

Ingeniero de AI DevSecOps e infraestructura en la nube, con 4 años construyendo sistemas de producción. Entrego lo que la mayoría de los proyectos de IA no tienen: la infraestructura subyacente. Trab...
Acerca de este Servicio

Pongo modelos de IA en producción y los mantengo en funcionamiento. Un script de entrenamiento no es un producto. Un servicio monitoreado, versionado y con autoscaling sí lo es.

LO QUE CONSTRUYO
pipelines de MLOps: seguimiento con MLflow o Weights and Biases, registro de modelos, reentrenamiento automatizado y despliegue seguro
servicio de LLM: vLLM, Ollama, TGI y modelos de Hugging Face detrás de una API compatible con OpenAI
infraestructura de GPU: AWS EC2 g5 y g6, EKS con grupos de nodos GPU, RunPod y Vast.ai, instancias spot y autoscaling para reducir tu factura
contenedores: Docker, Kubernetes, Helm, programación de GPU, verificaciones de salud y despliegue sin tiempo de inactividad
CI/CD para modelos y código: GitHub Actions, Jenkins, ArgoCD y GitOps
observabilidad: Prometheus, Grafana, trazado de solicitudes, paneles de latencia y coste por token
seguridad: privilegios mínimos IAM, endpoints privados VPC, gestión de secretos y SSL
LO QUE OBTIENES
Infraestructura funcional, el código fuente de Terraform o Helm que posees, documentación del runbook y una llamada de entrega para que tu equipo pueda operarla sin mí.
Cuatro años en DevOps e infraestructura de IA. Dímelo tu modelo, tráfico esperado y nube, y lo dimensionaré y te daré un coste mensual realista antes de que hagas el pedido. Trabajo en horario de EE.UU.

Herramientas:

Kubernetes

Docker

Amazon EKS

Marcos:

Terraform

Ansible

Proveedor de la nube:

Amazon Web Services

Google Cloud Platform

Lenguaje de programación:

Bash

Go

Python

Experiencia:

Instalación

Migración

Depuración de código

Otros servicios de Ingeniería de DevOps que ofrezco