Cómo evaluar las alternativas a LiteLLM

Qué preguntar a cualquier gateway, también al nuestro

1. ¿La gobernanza se corresponde con su organigrama?

   Pregunte ¿Se apilan los presupuestos entre organización, equipo, usuario, modelo y clave? ¿Fallan en cerrado? ¿Puede un equipo agotar la capacidad de otro?

   Por qué importa Los límites por clave sirven para un equipo. Cuando hay que imputar el gasto a centros de coste y limitarlo por equipo, la clave es la unidad equivocada.

   Wäg Los presupuestos se apilan de la organización al equipo, el usuario y la aplicación hasta la clave, con topes de reparto equitativo, y un incumplimiento rechaza la petición antes de llamar al proveedor.

2. ¿Se aplica la política en la ruta de la petición?

   Pregunte ¿Se aplica una regla a una aplicación que nunca integró nada? ¿O solo donde alguien se acordó de añadir un hook?

   Por qué importa Una regla que solo se aplica donde se activó es un consejo, no un control — y la aplicación que nadie registró es la que filtra.

   Wäg Una cadena de políticas ordenada — antes de la llamada, en streaming y después de la llamada — se ejecuta en cada petición que llega al endpoint.

3. ¿Qué huella tiene en tiempo de ejecución?

   Pregunte ¿Qué incluye la imagen? ¿Un intérprete, un gestor de paquetes, un árbol de dependencias resuelto en el momento del despliegue?

   Por qué importa Todo lo que hay en esa imagen se sitúa delante de cada petición de IA. Es superficie de cadena de suministro y superficie operativa, y crece con la importancia del gateway.

   Wäg Un único binario de Rust, distroless y sin root. La página de benchmarks recoge el tamaño de imagen, la memoria y el arranque, medidos en paralelo. Ver los benchmarks

4. ¿Se pueden explicar las decisiones de enrutamiento?

   Pregunte ¿La misma petición produce siempre la misma decisión? ¿La respuesta indica qué modelo la atendió y por qué?

   Por qué importa Si nadie sabe explicar por qué una petición fue al modelo caro, nadie puede corregirlo — ni defenderlo ante finanzas.

   Wäg El enrutamiento inteligente puntúa las peticiones de forma estructural, así que la misma petición recibe el mismo análisis. Cada respuesta nombra su modelo en x-waeg-routed-model; el enrutamiento inteligente añade x-waeg-route-reason.

5. ¿Gobierna las llamadas a herramientas de los agentes?

   Pregunte ¿Cómo se autentican los servidores MCP? ¿Se pueden permitir herramientas concretas por agente? ¿Cada salto de una ejecución de agente tiene presupuesto y queda registrado? ¿Se puede retener una llamada hasta que una persona la apruebe?

   Por qué importa Un turno del usuario se convierte en decenas de llamadas a modelos y herramientas, algunas con credenciales reales. Un gateway que solo ve las llamadas al modelo ve la mitad inofensiva.

   Wäg Autenticación por servidor, listas de herramientas permitidas y fijación, límites de ejecución, aprobaciones de una persona identificada — también en Slack o Teams, con Enterprise — y presupuesto y auditoría por salto.

6. ¿Qué produce para la auditoría?

   Pregunte ¿Qué entregaría a un equipo de cumplimiento dentro de seis meses: registros de tráfico, o un registro de lo que se decidió y por qué?

   Por qué importa Desde el 2 de agosto de 2026, las obligaciones de transparencia del AI Act y la supervisión de GPAI conllevan exposición a sanciones. El registro y la trazabilidad tienen que poder demostrarse.

   Wäg Un registro de decisión por petición — modelo, motivo, veredictos de política, coste y actor — en un libro de evidencias open source y firmado que se comprueba sin conexión con waeg ledger verify. Enterprise añade paquetes de evidencias asignados al AI Act y a DORA, con las lagunas señaladas, y el marcado de contenido de IA.

7. ¿Quién opera el control plane?

   Pregunte ¿Un plano de datos self-hosted informa a un control plane operado por el proveedor? ¿Qué sale de su perímetro? ¿Qué pasa si adquieren al proveedor?

   Por qué importa Un proveedor por encima de la ruta de la petición es una dependencia delante de producción, y su continuidad pasa a ser la suya.

   Wäg Usted. No hay control plane del proveedor, ni telemetría, ni phone-home — ambos planos se ejecutan en su infraestructura.

8. ¿Qué jurisdicción y qué licencia tiene el proveedor?

   Pregunte ¿Dónde está constituido el proveedor? ¿El software hace phone-home o exige una licencia en tiempo de ejecución? ¿Puede cambiar la licencia bajo sus pies?

   Por qué importa La licencia decide qué puede seguir ejecutando si la relación termina. La jurisdicción decide quién más puede hacer requerimientos a su proveedor.

   Wäg Bitkaio Ltd, Reino Unido. La ruta de producción del gateway es Apache-2.0 — enrutamiento, HA, caché, failover, presupuestos, políticas y MCP. La licencia es un token firmado sin conexión, sin servidor de licencias; Enterprise añade identidad, evidencias de auditoría y pagos de agentes.

Dónde LiteLLM va por delante

Una guía que solo enumere nuestras fortalezas no merecería la pena. LiteLLM tiene:

• Una lista de proveedores más larga, incluidos algunos minoritarios que Wäg aún no cubre.
• Callbacks de Python en proceso, si su equipo extiende el gateway en Python.
• Una comunidad grande y años de uso en producción. Wäg aún no ha tenido su lanzamiento público.
• Un informe SOC 2 Type II y listas de IP permitidas en su nivel Enterprise. Wäg hoy no tiene ninguno de los dos.

Tres arquitecturas, no veinte productos

Los productos de esta categoría cambian cada trimestre. La arquitectura que tienen debajo no, y de ella dependen la mayoría de las preguntas anteriores.

La misma API, una capa más arriba

Wäg es un control plane de IA self-hosted que incluye el gateway. Habla la misma API compatible con OpenAI e importa la configuración de LiteLLM, de modo que probarlo cuesta una URL base — y puede ejecutar ambos en paralelo hasta que los números coincidan.