Configuraré la inferencia para tus modelos de código abierto

R
rickymuchiri
R
rickymuchiri
Erick
5.0
5.0
Parte de la información se ha traducido automáticamente.

Acerca de este Servicio

Traducción automática

Construiré la inferencia para tus modelos de código abierto usando motores como TensorRT-LLM, vLLM y sGLang. Para flujos de trabajo de baja latencia, te ayudaré a lograrla mediante técnicas como cuantización, compilación de modelos, batching y streaming. También implementaré medidas de seguridad para tus endpoints de inferencia con claves API y soporte RAG para adjuntar documentos a tus prompts. Este servicio es inclusivo para entornos on premise y en la nube, tanto en CPU como en GPU.

Conoce a Erick

Erick

Selfhosted solutions

4.9(10)
  • DeKenia
  • Miembro desdesep 2022
  • Responde aprox. en:19 horas
  • Última entrega3 meses
  • Idiomas

    Inglés, Suajili
I'm Erick, a Software Engineer and System Administrator specializing in self-hosted solutions. I deploy and manage secure server environments to help businesses operate independently from third-party SaaS platforms. My expertise includes Linux server administration, Docker containerization, virtualization with Proxmox, and VPN configuration using Tailscale, Wireguard and OpenVPN. I set up, troubleshoot, and optimize self-hosted services, ensuring efficient and reliable infrastructures tailored to your needs. I also provide Twilio services to help businesses efficiently reach out to customers.

Traducción automática

Reseñas

1 comentarios sobre este Servicio
5.0

(1)
(0)
(0)
(0)
(0)
Desglose de calificaciones
  • Nivel de comunicación del Freelancer
    5
  • Calidad de la entrega
    5
  • Valor de la entrega
    5
Ordenar por
Más relevante
  • B

    benrudidi82

    CM

    Camerún

    Colaboración continua
    5

    for me it is difficult to find people like that I feel very confident working with him, he is very professional, he understands very quickly, he complies with all my requirements, he does things in a professional manner, despite the fact that I do not speak English, he adapts to the French, to the point...

    USD 50-USD 100

    $

    4 días

    Tiempo

    Útil?
    Sí
    No
Reseñas

1 comentarios sobre este Servicio
5.0

(1)
(0)
(0)
(0)
(0)
Desglose de calificaciones
  • Nivel de comunicación del Freelancer
    5
  • Calidad de la entrega
    5
  • Valor de la entrega
    5
Ordenar por
Más relevante
  • B

    benrudidi82

    CM

    Camerún

    Colaboración continua
    5

    for me it is difficult to find people like that I feel very confident working with him, he is very professional, he understands very quickly, he complies with all my requirements, he does things in a professional manner, despite the fact that I do not speak English, he adapts to the French, to the point...

    USD 50-USD 100

    $

    4 días

    Tiempo

    Útil?
    Sí
    No

Etiquetas relacionadas