Route til den billigste model der faktisk kan klare opgaven
Spar penge uden at ødelægge tools. Med den intelligente strategi scorer Wäg hver request strukturelt, anvender hårde kapabilitetsgulve og vælger så den billigste model, der klarer dem — og kan fortælle dig hvorfor i response-headerne. Hvis en provider bliver begrænset eller går ned, failer routingen over til den næste, så du bliver ved med at levere i stedet for at gå i sort.
"Med den intelligente strategi opgraderes tvetydige korte prompts et niveau — de nedgraderer aldrig kvaliteten i stilhed."
Strukturel scoring
Hver request scores på tools, vision, kontekstlængde, reasoning-signaler og dybde over flere ture — ikke et gæt fra en black box-klassifikator.
Hårde kapabilitetsgulve
Krav bliver til gulve: en vision-request kan aldrig lande på en model, der kun kan tekst. Med den intelligente strategi opgraderes tvetydige korte prompts et niveau i stedet for at blive nedgraderet.
Billigste kvalificerede vinder
Blandt de modeller, der klarer gulvet, vælger Wäg den billigste. Du sparer penge på de nemme requests uden at ødelægge de svære.
Forklarlige beslutninger
Svar kan bære x-waeg-routed-model og x-waeg-route-reason. Scoringen er deterministisk: den samme request får altid den samme analyse.
Fallbacks, stærkeste først
I den intelligente strategi er fallbacks ordnet stærkeste-først, så et nyt forsøg efter en fejl aldrig stille forringer svaret.
Seks strategier
weighted, latency, cost, round_robin, intelligent og model-driven — sat for platformen eller pr. organisation. En valgfri routing-model kan vælge niveauet, aldrig under de hårde krav.
Sprogbevidst
Routeren genkender requestens sprog, skubber ikke-engelske requests en anelse mod kvalitet og foretrækker deployments, der er tagget til det sprog. Deployments uden tag forbliver kvalificerede.
Sessionsaffinitet
Kodeagenter og chat-apps bliver på det deployment, der leverede deres seneste tur, så providerens prompt-cache bliver ved med at betale sig. En fastlåsning viger, når en tur kræver mere.
Lærer, hvis du lader den
Valgfri Thompson sampling lærer af succeser og fejl blandt de kvalificerede deployments. En ny nøgle starter ud fra det, dens organisation har lært; gulvene gælder stadig.
Trin for trin
- 01
Analysér
Requesten dekomponeres strukturelt — modalitet, tools, vision, kontekststørrelse og reasoning-signaler bliver til en eksplicit kapabilitetsprofil.
- 02
Sæt gulv
Nødvendige kapabiliteter omsættes til hårde gulve. Ethvert deployment, der ikke kan opfylde dem, udelukkes, før prisen overhovedet kommer i spil.
- 03
Vælg
Blandt de kvalificerede deployments vælger strategien ét: det billigste, det hurtigste, efter vægt eller på skift — sat for platformen eller for hver organisation.
- 04
Forklar og fald tilbage
Den valgte model og begrundelsen registreres og kan returneres som headers. Ved fejl prøver ordnede fallbacks igen — stærkeste-først med den intelligente strategi — med circuit breakers i spil.
# Wäg can tell you what it did (illustrative values)
x-waeg-routed-model: openai/gpt-4o-mini
x-waeg-route-reason: score 18 · conf 0.91 · min_tier economy · no tools, short ctx
x-waeg-cost-usd: 0.00041Intelligent routing er én af seks kontrolflader, der håndhæves i den samme forespørgselsvej og gælder for alle applikationer bag endpointet — også dem, der aldrig blev instrumenteret.
Se hvordan de spiller sammenÉt endpoint. Alle modeller. Fuld kontrol.
Kør det i jeres egen infrastruktur
Alt, hvad I skal bruge for at drive en control plane i produktion, er Apache-2.0 og bliver ved med at være det — routing, HA, caching, failover, budgetter, policy, MCP, jobs og observability. Self-hosted, ingen konto, ingen phone-home.
$ docker run -p 4000:4000 <registry>/waeg-gateway:<version>Endnu ikke et pull, der virker: images er ikke offentlige endnu. Designpartnere får registry-oplysningerne direkte.
Deploy på 5 minutterVær med til at forme det som designpartner
Wäg er endnu ikke offentligt tilgængelig. Vi arbejder sammen med en lille gruppe teams, der kører multi-provider AI i produktion og tager governance og suverænitet alvorligt, for at hærde vores control plane på reelle workloads.
- Alle Enterprise-funktioner inkluderet, uden licensomkostning
- Praktisk migrering — vi gør det sammen med jer, også fra LiteLLM
- Direkte adgang til de engineers, der bygger det, og reel indflydelse på, hvad der kommer næst