Desplegaré llm autohospedado, rag, ollama, vllm, agentes de IA en vps o servidor con gpu

Parte de la información se ha traducido automáticamente.
5.0
5.0

Pakistán

Hablo Urdu, Inglés

907 pedidos completados

Ingeniero de AIOps y Linux DevOps

671 reseñas de cinco estrellas. Más de 900 pedidos. 10 años en Fiverr y 13 en infraestructura de producción. Mantengo servidores Linux rápidos, estables y seguros, y despliego IA autoalojada en ellos...

Nivel 1

Ha cumplido determinados criterios de rendimiento y muestra un gran potencial en la plataforma.

Acerca de este Servicio

671 reseñas de cinco estrellas · más de 600 pedidos · más de 13 años en infraestructura de producción


Implemento sistemas open-source de LLMs y AI en tus propios servidores, para que dejes de pagar por token y mantengas tus datos en casa.


Lo que implemento

  • Ollama, vLLM, llama.cpp, OpenWebUI
  • Llama, Mistral, Qwen, DeepSeek, Gemma
  • RAG con Qdrant, Chroma, Weaviate, pgvector
  • Agentes de AI mediante n8n, LangChain, LlamaIndex


Dónde lo implemento

  • Tu VPS: Hetzner, DigitalOcean, Contabo, OVH
  • Servidores con GPU y bare metal: A100, L40S, RTX 4090
  • AWS, GCP, Azure, RunPod
  • Configuraciones en local y aisladas


Cómo funciona

  1. Envías las especificaciones de tu servidor y el modelo que quieres
  2. Confirmo qué puede manejar tu hardware de manera realista
  3. Implemento, ajusto y documento todo


Lo que obtienes

  • Implementación con Docker o systemd, reproducible
  • Proxy inverso Nginx con SSL y autenticación API
  • Ajuste de GPU y VRAM para que el modelo funcione rápido
  • Monitoreo, registro y reinicio automático en caso de fallo
  • Documentación de entrega escrita


Historial

  • Organización del Premio Nobel, Starbucks, T-Mobile, Beasley Media
  • Plataformas que atienden a 45,000 usuarios concurrentes a 40 Gbps


Escríbeme antes de ordenar y te diré honestamente si tu hardware puede soportarlo.

Herramientas:

Kubernetes

Docker

Amazon EKS

Marcos:

Terraform

Ansible

Títeres

Proveedor de la nube:

Amazon Web Services

microsoft azure

Lenguaje de programación:

Bash

Python

Experiencia:

Instalación

Migración

Depuración de código

Mi porfolio

Reseñas

2 comentarios sobre este Servicio
5.0

(2)
(0)
(0)
(0)
(0)
Desglose de calificaciones
  • Nivel de comunicación del Freelancer
    5
  • Calidad de la entrega
    5
  • Valor de la entrega
    5
Ordenar por
Más relevante
  • L

    lara_chad2

    GB

    Reino Unido

    5

    Excellent service! The deployment was completed quickly and professionally. The seller understood the issue, handled the Dockerized Python AI application deployment smoothly, and kept me updated throughout the process. Everything is working as expected. Highly recommended!

    USD 50

    Precio

    1 día

    Tiempo

    Útil?
    No
  • D

    drezin

    US

    Estados Unidos

    Colaboración continua
    5

    Shazeb was great in understanding the problem and working to fix It. would recommend.

    USD 100-USD 200

    Precio

    2 días

    Tiempo

    Útil?
    No
Reseñas

2 comentarios sobre este Servicio
5.0

(2)
(0)
(0)
(0)
(0)
Desglose de calificaciones
  • Nivel de comunicación del Freelancer
    5
  • Calidad de la entrega
    5
  • Valor de la entrega
    5
Ordenar por
Más relevante
  • L

    lara_chad2

    GB

    Reino Unido

    5

    Excellent service! The deployment was completed quickly and professionally. The seller understood the issue, handled the Dockerized Python AI application deployment smoothly, and kept me updated throughout the process. Everything is working as expected. Highly recommended!

    USD 50

    Precio

    1 día

    Tiempo

    Útil?
    No
  • D

    drezin

    US

    Estados Unidos

    Colaboración continua
    5

    Shazeb was great in understanding the problem and working to fix It. would recommend.

    USD 100-USD 200

    Precio

    2 días

    Tiempo

    Útil?
    No