Explorar las categorías
Explora
Fiverr Pro
Español
$
USD
Desplegaré una pila privada de LLM local con docker
Jeancam L.
Acerca de este Servicio
Traducción automática
¿Necesitas capacidades de IA sin enviar cada solicitud o documento a un servicio de terceros?
Soy ingeniero de IA y Python francés. Diseño y despliego pilas privadas de LLM para entornos locales, on-premise, híbridos y en la nube. El objetivo no es simplemente instalar unos contenedores; es ofrecerte un sistema confiable que se adapte a tu hardware, necesidades de privacidad y carga de trabajo esperada.
Tu pila puede incluir:
- OpenWebUI, Ollama o vLLM
- Servicios dockerizados y APIs compatibles con OpenAI
- RAG privado y búsqueda vectorial
- PostgreSQL o pgvector
- Configuración de autenticación, HTTPS y proxy inverso
- Enrutamiento LiteLLM entre modelos locales y en la nube
- Seguimiento de uso, presupuestos de equipo y visibilidad de costos
Te ayudaré a elegir modelos que tengan sentido para tu CPU, RAM o GPU en lugar de prometer un rendimiento poco realista. La entrega incluye la configuración acordada, documentación y una transferencia clara.
Envíame un mensaje antes de ordenar con tu hardware y número de usuarios para que pueda confirmar la mejor arquitectura y paquete.
Conoce a Jeancam L.
Jeancam L.
- DeFrancia
- Miembro desdeago 2021
- Última entrega3 años
Idiomas
Francés, Inglés
Graduated from engineering school ESISAR in Valence, France, I have a lot of knowledge in various programming languages: Java, python, c. I have acquired a deep expertise in Selenium testing and web scraping. I am familiar with web languages (js, css, html), the WordPress and Shopify CMS that I use for my personal projects and the Spring framework.
Traducción automática
FAQ
Traducción automática
¿Todo puede funcionar localmente?
Sí, cuando el hardware disponible soporta el modelo y la carga de trabajo elegidos. Estableceré expectativas realistas antes de comenzar.
¿Todo puede funcionar localmente?
Sí, cuando el hardware disponible soporta el modelo y la carga de trabajo elegidos. Estableceré expectativas realistas antes de comenzar.
¿Puedes combinar modelos locales y en la nube?
Sí. Una pila híbrida puede mantener tareas sensibles en local mientras usa modelos en la nube solo cuando se necesita capacidad adicional.
¿Proporcionas el servidor o GPU?
No. Tú proporcionas la máquina objetivo o la cuenta en la nube; yo configuro y despliego la pila acordada.
¿Puedes agregar búsqueda privada de documentos?
Sí. RAG, citas y búsqueda vectorial pueden incluirse en el alcance Estándar o Premium.
