Desplegaré un modelo de IA privado y autohospedado en tu servidor

Parte de la información se ha traducido automáticamente.

Alemania

Hablo Alemán, Inglés, Francés, Árabe

4 pedidos completados

Soy un Product Owner e ingeniero DevOps con una maestría en Ingeniería Informática en Alemania. Mi fortaleza es cerrar la brecha entre los objetivos comerciales de alto nivel y la implementación técn...
Acerca de este Servicio

Todos quieren ejecutar IA. La mayoría se queda atascada en la infraestructura.


Soy ingeniero de DevOps con base en Alemania. Desplegaré un LLM completamente funcional y autohospedado en tu servidor, privado, rápido y bajo tu control. Sin facturas de API, sin datos saliendo de tu infraestructura. Y cumple con GDPR.


Con lo que trabajo:

  • Ollama servicio rápido de modelos locales vLLM inferencia en GPU de alto rendimiento para producción
  • Open WebUI interfaz limpia similar a ChatGPT para tu equipo
  • LocalAI API compatible con OpenAI para aplicaciones existentes
  • Docker + passthrough de GPU en VPS o hardware bare-metal


Lo que obtienes:

  • LLM en funcionamiento accesible vía navegador o API
  • Proxy inverso NGINX + certificado SSL
  • Autenticación para que no cualquiera pueda acceder
  • Tu elección de modelo: Llama, Mistral, Gemma, Phi y más
  • Documentación para que puedas gestionarlo tú mismo después


Ya seas un desarrollador que quiere un asistente de codificación privado, una startup que necesita una herramienta de IA interna, o una empresa que no puede enviar datos a OpenAI por motivos de cumplimiento, ¡no dudes en llamar!


Trabajo en inglés, alemán, francés y árabe.

Herramientas:

Kubernetes

•

Docker

•

Amazon EKS

Marcos:

Terraform

•

Ansible

•

Cocinero

•

Títeres

•

SaltStack

Proveedor de la nube:

Amazon Web Services

•

microsoft azure

Lenguaje de programación:

Bash

•

C

•

Go

•

JavaScript

•

Kotlin

•

Python

•

Ruby

Experiencia:

Instalación

•

Migración

•

Configuración

Otros servicios de Ingeniería de DevOps que ofrezco