Instalaré ollama y abriré webui en un vps autohospedado como un servidor seguro de IA privado

S
ssoft786
S
ssoft786
Mehmud
Parte de la información se ha traducido automáticamente.

Acerca de este Servicio

Traducción automática

Si quieres chatear al estilo ChatGPT sin enviar datos de la empresa a nadie, ejecutas el modelo en tu propia máquina. Eso es lo que hace este servicio.


Instalo Ollama con la interfaz Open WebUI en tu servidor, en tu propio dominio con SSL, y configuro cuentas de usuario para que tu equipo inicie sesión correctamente en lugar de compartir un enlace.


Lo que obtienes:


Una interfaz de chat privada en tu propia dirección, modelos descargados y listos para usar, y un servidor que se reinicia de forma limpia y permanece actualizado. En el paquete Standard instalo controladores NVIDIA y CUDA si tu equipo tiene una GPU, lo que marca la diferencia entre respuestas rápidas y respuestas lentas.


Sé honesto contigo sobre el hardware antes de que gastes dinero. Los modelos pequeños funcionan aceptablemente en CPU. Cualquier cosa en el rango de 30B necesita una GPU real. Envíame las especificaciones de tu servidor y te diré qué podrá correr realmente en él en lugar de venderte un paquete que te decepcione.


La opción avanzada añade un endpoint API que tus propias aplicaciones pueden llamar, y carga de documentos para que puedas hacer preguntas sobre tus propios archivos.


Primero envíame un mensaje con tus especificaciones si no estás seguro.

Conoce a Mehmud

Mehmud

Server and Email Migration, n8n, Docker and Self Hosted AI Setup

4.6(7)
  • DePakistán
  • Miembro desdejun 2016
  • Última entrega2 años
  • Idiomas

    Urdu, Inglés
I have been running Linux and Windows servers for 9+ years - AWS, Google Cloud, DigitalOcean and plain VPS. Most of my work is migration: moving sites and data between servers, and moving business email from one provider to another without losing mail. I also set up self-hosted automation and AI stacks - n8n, Docker, Ollama with Open WebUI - for teams who want to own their infrastructure instead of monthly SaaS bills. And I clean up hacked servers and harden them so it does not happen again. Tell me what you are running and where you want it. If it is not a job I should take, I will say so.

Traducción automática

Etiquetas relacionadas