Desplegaré LLMs locales, configuraré agentes de IA y solucionaré problemas de API

Parte de la información se ha traducido automáticamente.

Sri Lanka

Hablo Cingalés, Inglés

4 pedidos completados

Desarrollador Full Stack, SysAdmin de Linux, Experto en automatización

Soy un desarrollador web full stack estudiante en la Universidad de Moratuwa, especializado en administración de servidores Linux. A diferencia de los asistentes virtuales estándar, gestiono infraestr...
Acerca de este Servicio

¿Necesitas un panel de control de IA privado o tienes problemas con la API de Local LLM?

Lo configuraré de forma segura y arreglaré los errores.


Me especializo en desplegar Local LLMs y plataformas de agentes de IA (como Hermes y Open WebUI) en servidores Linux/GPU o localmente en tu PC. Aseguro que tus modelos de IA funcionen sin problemas con endpoints de API listos para producción.


Lo que hago:

  • Configuración de Local LLM: Desplegar Ollama, vLLM o LM Studio en tu VPS/PC Linux o en un servidor GPU.
  • Paneles de control de IA: Configurar Open WebUI, AnythingLLM o Hermes Agent.
  • Modelos personalizados: Configurar Modelfiles (Llama 3, Qwen, Mistral, GLM) para tu caso específico.
  • Seguridad de API: Generar claves de API seguras para que tus desarrolladores las usen al instante.


Solución de problemas y arreglos de bugs:

  • Arreglar errores de conexión de API, problemas de CORS y timeouts en endpoints.
  • Resolver errores de GPU Out of Memory (OOM) y fallos en CUDA.
  • Corregir bugs en Docker y en el proxy inverso Nginx que causan fallos en IA.


¿Por qué elegirme?

Como administrador de sistemas Linux y desarrollador full-stack, manejo la infraestructura compleja para que puedas enfocarte en construir tus aplicaciones de IA.


Nota: Proporciono infraestructura de servidor y APIs funcionales. No codifico la integración de IA en tu app.


Envíame los detalles de tu servidor antes de ordenar.

Herramientas:

Docker

Marcos:

npm

Terraform

Ansible

Otros

Proveedor de la nube:

Amazon Web Services

microsoft azure

Lenguaje de programación:

Bash

JavaScript

PHP

Python

Experiencia:

Instalación

Migración

Configuración

Mi porfolio