Alle Funktionen
Intelligentes Routing

Routen Sie zum günstigsten Modell, das die Aufgabe wirklich bewältigt

Geld sparen, ohne Tools zu brechen. Bei der Strategie intelligent bewertet Wäg jede Anfrage strukturell, wendet harte Fähigkeits-Untergrenzen an und wählt dann das günstigste Modell, das sie überschreitet — und erklärt Ihnen im Response-Header, warum. Wird ein Anbieter eingeschränkt oder fällt aus, wechselt das Routing zum nächsten — Sie liefern weiter, statt auszufallen.

"Bei der Strategie intelligent steigen kurze, mehrdeutige Prompts eine Stufe auf — sie stufen die Qualität nie stillschweigend herab."

Strukturelle Bewertung

Jede Anfrage wird nach Tools, Vision, Kontextlänge, Reasoning-Signalen und Mehrfach-Turn-Tiefe bewertet — keine Vermutung eines Blackbox-Klassifizierers.

Harte Fähigkeits-Untergrenzen

Anforderungen werden zu Untergrenzen: Eine Vision-Anfrage kann nie auf einem reinen Textmodell landen. Bei der Strategie intelligent steigen kurze, mehrdeutige Prompts eine Stufe auf, statt herabgestuft zu werden.

Der günstigste Geeignete gewinnt

Unter den Modellen, die die Untergrenze überschreiten, wählt Wäg das günstigste. Sie sparen bei den einfachen Anfragen, ohne die schwierigen zu brechen.

Erklärbare Entscheidungen

Antworten können x-waeg-routed-model und x-waeg-route-reason tragen. Die Bewertung ist deterministisch: Dieselbe Anfrage erhält immer dieselbe Analyse.

Fallbacks vom Stärksten

Bei der intelligenten Strategie sind Fallbacks vom Stärksten geordnet, sodass eine Wiederholung nach einem Fehler die Antwort nie heimlich verschlechtert.

Sechs Strategien

gewichtet, Latenz, Kosten, Round-Robin, intelligent und modellgesteuert — für die Plattform oder pro Organisation festgelegt. Ein optionales Routing-Modell kann die Stufe wählen, nie unterhalb harter Anforderungen.

Sprachbewusst

Der Router erkennt die Sprache der Anfrage, schiebt nicht-englische Anfragen leicht in Richtung Qualität und bevorzugt Deployments, die für diese Sprache markiert sind. Unmarkierte bleiben wählbar.

Sitzungsaffinität

Coding-Agenten und Chat-Apps bleiben auf dem Deployment, das ihren letzten Schritt bedient hat, sodass sich der Prompt-Cache des Anbieters weiter auszahlt. Die Bindung weicht, wenn ein Schritt mehr braucht.

Lernt, wenn Sie es lassen

Optionales Thompson Sampling lernt aus Erfolgen und Fehlschlägen unter den geeigneten Deployments. Ein neuer Key startet mit dem, was seine Organisation gelernt hat; die Untergrenzen gelten weiter.

Intelligentes Routing
Fallback-Ketten, pro Modell-Alias in der Konsole konfiguriert.

Schritt für Schritt

  1. 01

    Analysieren

    Die Anfrage wird strukturell zerlegt — Modalität, Tools, Vision, Kontextgröße und Reasoning-Signale werden zu einem expliziten Fähigkeitsprofil.

  2. 02

    Untergrenze

    Erforderliche Fähigkeiten werden zu harten Untergrenzen. Jede Bereitstellung, die sie nicht erfüllen kann, wird ausgeschlossen, bevor die Kosten überhaupt betrachtet werden.

  3. 03

    Auswählen

    Unter den geeigneten Deployments wählt die Strategie eines: das günstigste, das schnellste, nach Gewicht oder reihum — festgelegt für die Plattform oder pro Organisation.

  4. 04

    Erklären & zurückfallen

    Das gewählte Modell und der Grund werden festgehalten und können als Header zurückgegeben werden. Bei einem Fehler wiederholen geordnete Fallbacks — bei der Strategie intelligent vom Stärksten an —, mit aktiven Circuit Breakern.

response headers
# Wäg can tell you what it did (illustrative values)
x-waeg-routed-model: openai/gpt-4o-mini
x-waeg-route-reason: score 18 · conf 0.91 · min_tier economy · no tools, short ctx
x-waeg-cost-usd: 0.00041
Teil der Control Plane

Intelligentes Routing ist eine von sechs Kontrollflächen, die im selben Anfrageweg durchgesetzt werden und für jede Anwendung hinter dem Endpunkt gelten — auch für die, die nie instrumentiert wurden.

Sehen, wie sie zusammenwirken

Ein Endpunkt. Jedes Modell. Volle Kontrolle.

Mit Open Source starten

Betreiben Sie es in Ihrer eigenen Infrastruktur

Alles, was Sie brauchen, um eine Control Plane produktiv zu betreiben, steht unter Apache-2.0 und bleibt es auch — Routing, HA, Caching, Failover, Budgets, Policy, MCP, Jobs und Observability. Self-hosted, ohne Account, ohne Phone-Home.

$ docker run -p 4000:4000 <registry>/waeg-gateway:<version>

Kein funktionierender Pull: Die Images sind noch nicht öffentlich. Designpartner erhalten die Registry-Details vertraulich.

In 5 Minuten deployen
Designpartnerschaft

Als Design-Partner mitgestalten

Wäg ist noch nicht öffentlich verfügbar. Wir arbeiten mit einer kleinen Gruppe von Teams, die Multi-Provider-KI produktiv betreiben und Governance und Souveränität ernst nehmen, um die Control Plane an echten Workloads zu härten.

  • Jede Enterprise-Funktion enthalten, ohne Lizenzkosten
  • Migration gemeinsam mit uns — auch von LiteLLM
  • Direkter Draht zu den Engineers und realer Einfluss darauf, was als Nächstes kommt
Zum Programm bewerben