Instalaré ollama y abriré webui en un vps autohospedado como un servidor seguro de IA privado


Acerca de este Servicio
Traducción automática
Si quieres chatear al estilo ChatGPT sin enviar datos de la empresa a nadie, ejecutas el modelo en tu propia máquina. Eso es lo que hace este servicio.
Instalo Ollama con la interfaz Open WebUI en tu servidor, en tu propio dominio con SSL, y configuro cuentas de usuario para que tu equipo inicie sesión correctamente en lugar de compartir un enlace.
Lo que obtienes:
Una interfaz de chat privada en tu propia dirección, modelos descargados y listos para usar, y un servidor que se reinicia de forma limpia y permanece actualizado. En el paquete Standard instalo controladores NVIDIA y CUDA si tu equipo tiene una GPU, lo que marca la diferencia entre respuestas rápidas y respuestas lentas.
Sé honesto contigo sobre el hardware antes de que gastes dinero. Los modelos pequeños funcionan aceptablemente en CPU. Cualquier cosa en el rango de 30B necesita una GPU real. Envíame las especificaciones de tu servidor y te diré qué podrá correr realmente en él en lugar de venderte un paquete que te decepcione.
La opción avanzada añade un endpoint API que tus propias aplicaciones pueden llamar, y carga de documentos para que puedas hacer preguntas sobre tus propios archivos.
Primero envíame un mensaje con tus especificaciones si no estás seguro.
Conoce a Mehmud
Server and Email Migration, n8n, Docker and Self Hosted AI Setup
- DePakistán
- Miembro desdejun 2016
- Última entrega2 años
Idiomas
Urdu, Inglés
Traducción automática
FAQ
Traducción automática
¿Qué servidor necesito para esto?
Para modelos de 7B a 8B en CPU, 4 vCPU y 16 GB de RAM es un mínimo viable. Para modelos más grandes o respuestas rápidas, necesitas una GPU NVIDIA con 16 GB o más de VRAM. Envíame lo que tienes y te daré una respuesta clara antes de que hagas el pedido.
¿Qué modelos puedes instalar?
Cualquier modelo de la biblioteca Ollama: Llama, Mistral, Qwen, Gemma, DeepSeek y otros. Dime para qué lo quieres y te sugeriré un tamaño que se ajuste a tu hardware.
¿Mis datos son realmente privados?
Sí. El modelo se ejecuta en tu máquina y no se envía nada a un proveedor externo. No hay claves API de OpenAI ni de nadie más. Esa es la razón principal para alojarlo tú mismo en lugar de usar un servicio hospedado.
¿Puede usarlo todo mi equipo?
Sí. Open WebUI tiene cuentas de usuario y controles de administrador adecuados, así que las personas inician sesión con sus propias credenciales en lugar de compartir un enlace. Configuro eso en los paquetes Standard y Advanced.

