De las llamadas directas a la API a un único endpoint gobernado

¿No tiene claro si ya necesita un gateway? Esto explica qué hace uno y cuándo sigue siendo mejor llamar directamente al proveedor: ¿Qué es un gateway de IA?

Cinco pasos, una aplicación cada vez

1 · Ponga en marcha Wäg y añada sus proveedores

Asigne a cada proveedor su cuenta actual y ponga a los alias los nombres de modelo que su código ya envía. Así no hay que cambiar ninguna referencia a modelos en ninguna aplicación.

# waeg.yaml — aliases named after the models your code already asks for
providers:
  openai:
    provider: openai
    api_key_env: OPENAI_API_KEY
  anthropic:
    provider: anthropic
    api_key_env: ANTHROPIC_API_KEY

models:
  - name: gpt-4o
    deployments:
      - provider: openai
        model_id: gpt-4o

  - name: claude-haiku-4-5
    deployments:
      - provider: anthropic
        model_id: claude-haiku-4-5

Las claves se resuelven desde el entorno o desde su vault; nunca se escriben en el archivo.

2 · Emita una clave de gateway por aplicación

Cada aplicación recibe su propia clave virtual en lugar de la clave del proveedor. Eso es lo que hace posible conocer el coste por aplicación, fijar límites por equipo y revocar un solo servicio — nada de lo cual permite una clave de proveedor compartida.

3 · Cambie la URL base y la clave

Wäg sirve la superficie compatible con OpenAI — chat completions, la Responses API (sin estado), embeddings, imágenes, audio, vídeo, OCR, moderaciones, rerank, archivos, lotes, tiempo real y modelos — con streaming SSE real, además de /v1/mcp y /v1/a2a para agentes. En la aplicación cambian dos líneas:

  client = OpenAI(
-     api_key=os.environ["OPENAI_API_KEY"],
+     base_url=os.environ["WAEG_BASE_URL"],   # e.g. https://waeg.internal/v1
+     api_key=os.environ["WAEG_KEY"],         # this application's gateway key
  )

También se admiten las aplicaciones basadas en los SDK propios de Anthropic o Gemini: /v1/messages y /v1beta de Gemini son formas de petición de primer nivel, no solo traducciones de la forma de OpenAI.

4 · Compruebe y pase a la siguiente aplicación

Envíe una petición normal, una con streaming y una con tool calling, y lea las cabeceras de respuesta: x-waeg-routed-model indica qué modelo la atendió, x-waeg-route-reason por qué (con el enrutamiento inteligente) y x-waeg-cache si respondió una caché. La petición ya aparece en la consola con sus tokens y su coste.

Un orden razonable: primero las herramientas internas, después las cargas por lotes y offline, luego un servicio de producción y al final todo lo demás.

5 · Retire las claves de proveedor de las aplicaciones

Cuando todas las aplicaciones pasen por Wäg, rote las claves de proveedor y elimínelas de los entornos de las aplicaciones, de los secretos de CI y de los archivos de configuración. A partir de ahí, solo las guarda Wäg — que es la mayor parte de la ganancia en seguridad, y el paso que los equipos olvidan con más frecuencia.

Lo que ha ganado

• El coste por aplicación, equipo y usuario, en el momento en que se produce — no reconstruido a partir de una factura.
• Presupuestos que frenan el gasto antes de llamar al proveedor, no paneles que se ponen en rojo después.
• Failover a otro proveedor o modelo cuando uno está caído.
• Reglas sobre los datos — enmascarar, redactar, bloquear — aplicadas a cada prompt, también en aplicaciones que nadie ha tocado.
• Un registro de cada petición: quién, qué modelo, por qué, cuánto costó y qué reglas se aplicaron.
• Modelos que se añaden o se sustituyen por configuración, sin desplegar de nuevo cada aplicación.

Lo que le cuesta

• Un servicio más que operar. El modo embebido no necesita nada externo, pero es de un solo nodo y en memoria, para pruebas; producción funciona sobre Postgres y OpenFGA, además de Redis en cuanto hay varias réplicas.
• Un salto de red más. Unos pocos milisegundos frente a llamadas a modelos de cientos de milisegundos a segundos — y los aciertos de caché responden más rápido que cualquier proveedor.
• Alguien tiene que responsabilizarse. Normalmente el equipo de plataforma, las mismas personas que se encargan del resto de su infraestructura compartida.

Preguntas que suelen surgir