Une passerelle fonctionnelle en moins de cinq minutes

Démarrez la passerelle

Le mode embarqué ne nécessite rien d'externe : l'état est tenu en mémoire, donc rien ne survit à un redémarrage, et il n'y a encore ni Postgres ni Redis à monter. La console arrive sur le même port, servie par le même binaire Rust.

Ce n'est pas un pull qui fonctionne : les images ne sont pas encore publiques. Les partenaires de conception reçoivent les informations du registre en privé.

Le registre et la version sont des valeurs fictives — les partenaires de conception les reçoivent en privé. Console sur http://localhost:4000/ui/ : connectez-vous avec le compte administrateur initial et changez son mot de passe.

Ajoutez un fournisseur

Donnez-lui une cible en amont et un alias, puis redémarrez avec le fichier monté comme l'indique le commentaire. Les alias sont ce que référence votre code applicatif : vous pourrez les rediriger plus tard sans toucher à l'application.

# waeg.yaml
providers:
  openai:
    provider: openai
    api_key_env: OPENAI_API_KEY      # or api_key_ref: a vault reference

models:
  - name: chat                       # what your code sends as "model"
    deployments:
      - provider: openai
        model_id: gpt-4o

# Restart with it mounted:
#   docker run -p 4000:4000 -e OPENAI_API_KEY \
#     -v "$PWD/waeg.yaml:/etc/waeg/waeg.yaml" \
#     <registry>/waeg-gateway:<version> serve --config /etc/waeg/waeg.yaml

Pointez votre SDK vers lui

Wäg expose la surface compatible OpenAI : seule l'URL de base change. Votre SDK, les formats de requête, le comportement du streaming et l'appel d'outils restent inchangés.

from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:4000/v1",   # the only change
    api_key="<your-waeg-virtual-key>",     # created in the console
)

resp = client.chat.completions.create(
    model="chat",
    messages=[{"role": "user", "content": "Hello"}],
)

Regardez les en-têtes de réponse. C'est le premier signe visible que quelque chose a été décidé, et pas simplement relayé :

Voyez-la dans la console

Ouvrez la console : la requête y est déjà — trafic, latence, tokens, décision de routage et éventuels verdicts de politique. Le coût apparaît une fois le catalogue de prix fourni chargé sous Usage & cost → Pricing. Rien d'autre n'a été configuré : c'est ce que produit le passage par le chemin de la requête.

La suite depuis ici