Configuraré un llm privado autoalojado en tu servidor con ollama, vllm, open webui

J
junaidaslam
J
junaidaslam
Junaid Aslam

Level 1

Parte de la información se ha traducido automáticamente.
Revisado por el equipo de Fiverr Pro

El equipo de Fiverr Pro seleccionó a Junaid Aslam por su experiencia.

Acerca de este Servicio

Traducción automática

Por favor, envíame un mensaje para comentar los requisitos antes de hacer el pedido.


¿Quieres un asistente de IA que mantenga tus datos en tu propio servidor? Configuro un llm privado en tu VPS o servidor con GPU. Ningún prompt o documento sale a terceros.


Qué monto

- Servir un modelo abierto con Ollama o vLLM: Llama 3, Mistral, DeepSeek, Qwen, Gemma, o cualquier modelo de Hugging Face

- Open WebUI como pantalla de chat, con cuentas de usuario y roles

- Una API compatible con OpenAI, para que tus apps la llamen como llaman a OpenAI

- RAG opcional en tus PDFs y documentos, con pgvector o Qdrant

- Configuración de Docker Compose, Nginx, HTTPS y una guía de entrega por escrito


Dónde funciona

Cualquier servidor Linux: tu VPS, equipo en local, AWS, Azure, Google Cloud o un GPU alquilado en RunPod. GPUs: NVIDIA H100, A100, L40S, RTX 4090. Te digo el costo mensual primero.


Ubicación de los datos

Puedo alojar en la UE, Reino Unido, EE. UU. o cualquier país o región que elijas. Esto admite reglas de residencia de datos como GDPR, UK GDPR y CCPA.


Qué no hago

No hago ajuste fino ni cuantización de modelos. Despliego y conecto modelos abiertos existentes.


Antes de hacer el pedido

Hablemos del tipo de documento, número de usuarios y presupuesto. Luego te recomendaré un modelo y el tamaño del servidor.

Conoce a Junaid Aslam

Junaid Aslam

ASP Dot NET Core, Web API, React, JS, TS, SQL, NoSQL, AWS, Azure, AI Chatbot RAG

4.8(125)

Level 1

Junaid Aslam es parte del catálogo de Fiverr Pro y un equipo especializado de Fiverr Pro lo ha seleccionado con cuidado por sus habilidades y experiencia.

Revisado para

  • Desarrollo de software

  • DePakistán
  • Miembro desdesep 2015
  • Responde aprox. en:1 hora
  • Última entrega1 mes
  • Idiomas

    Urdu, Inglés
Pro-vetted Senior .NET engineer with 7+ years building full-stack web apps and APIs for clients across the US, UK, EU, and beyond. I specialise in .NET, .NET Core, ASP.NET MVC5, Web API, Blazor, React, and Next JS, following Clean Architecture and SOLID principles so your codebase stays maintainable as it grows. I also offer AI automation & AI integration services, including custom AI chatbots, RAG, n8n, make.com AI workflows, Claude/GPT API.. My tech stack includes C# .NET 10, 9.0 · Blazor · EF Core · API · React/Next.js · TypeScript · MS SQL · Azure · AWS · WordPress · Firebase · PostgreSQL.

Traducción automática

Mi porfolio