Haré una puerta de enlace LLM compatible con OpenAI con enrutamiento y seguimiento de costos
Acerca de este Servicio
Traducción automática
Dale a tu aplicación una API consistente para múltiples modelos de lenguaje. Construyo una pasarela Python/FastAPI con endpoints de chat compatibles con OpenAI e integraciones adaptadas a tu aplicación existente.
Básico: conecta un proveedor y entrega un endpoint de chat compatible.
Estándar: integra dos proveedores con enrutamiento de modelos y streaming.
Premium: añade enrutamiento multi-proveedor, seguimiento de uso y costos estimados, integración de base de datos y despliegue.
Los paquetes incluyen código fuente y guía de configuración. Las reglas de enrutamiento, los endpoints admitidos y los destinos de despliegue se acuerdan antes de empezar el trabajo. Los costos de uso dependen de las tarifas del proveedor y se facturan por separado a tus proveedores. Las estimaciones no son facturas.
Por favor comparte tu stack de aplicación actual, proveedores y modelos, tráfico esperado, entorno de hosting y cualquier requisito de seguridad o registro antes de hacer el pedido. Las claves API permanecen bajo tu control.
Conoce a Han Q
Senior Flutter and AI Engineer for IoT Apps
- DeChina
- Miembro desdemay 2024
Idiomas
Chino, Inglés
Traducción automática
Mi porfolio
FAQ
Traducción automática
¿Están incluidos los costos del proveedor y del hosting?
No. El uso de la API del proveedor y el hosting se pagan por separado por ti a menos que el alcance indique lo contrario. El seguimiento de costos es una estimación basada en los datos de uso disponibles y las tarifas configuradas.
¿Se admitirá cada función de la API de OpenAI?
El paquete cubre los endpoints de chat y las funciones acordadas. Las capacidades del proveedor pueden variar, por lo que definiremos los modelos compatibles, streaming, herramientas y otras funciones antes de la orden.
¿Qué proveedores de modelos se pueden integrar?
El soporte del proveedor depende del paquete acordado y de las API adapters disponibles. Por favor, comparte los proveedores, modelos y los endpoints requeridos antes de hacer el pedido para confirmar la compatibilidad y el enrutamiento.
¿Está incluida la implementación?
La opción básica incluye guía de configuración pero no despliegue. La opción estándar incluye una asistencia de despliegue en staging; la opción premium incluye una asistencia de despliegue en producción. El comprador paga el hosting, el dominio y los cargos de la API del proveedor.
¿Puedes garantizar la salida del modelo o la disponibilidad del proveedor?
No. Las respuestas del modelo pueden ser incorrectas y las caídas de proveedores o límites de tasa están fuera del control de la puerta de enlace. Las funciones de enrutamiento y resiliencia dependen del alcance acordado; las cifras de costo de uso son estimaciones, no facturas.

