Alla funktioner
Intelligent routing

Routa till den billigaste modellen som faktiskt klarar uppgiften

Spara pengar utan att bryta verktygsanrop. Med den intelligenta strategin poängsätter Wäg varje request strukturellt, tillämpar hårda kapabilitetsgolv och väljer sedan den billigaste modell som klarar dem — och kan tala om varför i svarshuvudena. Om en leverantör är begränsad eller går ner gör routingen failover till nästa, så du fortsätter leverera i stället för att slockna.

"Med den intelligenta strategin uppgraderas tvetydiga korta prompts en nivå — de sänker aldrig kvaliteten i tysthet."

Strukturell poängsättning

Varje request poängsätts på verktyg, vision, kontextlängd, signaler om resonemang och djup i flerstegsdialoger — inte en gissning från en svart låda.

Hårda kapabilitetsgolv

Krav blir golv: en vision-request kan aldrig hamna på en modell som bara hanterar text. Med den intelligenta strategin uppgraderas tvetydiga korta prompts en nivå i stället för att nedgraderas.

Billigaste behöriga vinner

Bland de modeller som klarar golvet väljer Wäg den billigaste. Du sparar pengar på de enkla requesterna utan att förstöra de svåra.

Förklarbara beslut

Svar kan bära x-waeg-routed-model och x-waeg-route-reason. Poängsättningen är deterministisk: samma request får alltid samma analys.

Fallbacks starkast först

I den intelligenta strategin ordnas fallbacks starkast först, så att ett omförsök efter ett fel aldrig tyst försämrar svaret.

Sex strategier

weighted, latency, cost, round_robin, intelligent och modellstyrd — för hela plattformen eller per organisation. En valfri routingmodell kan välja nivå, aldrig under de hårda kraven.

Språkmedveten

Routern känner av requestens språk, puttar requests som inte är på engelska lite mot kvalitet och föredrar deployments som är taggade för det språket. Otaggade förblir behöriga.

Sessionsaffinitet

Kodagenter och chattappar stannar på den deployment som svarade på deras senaste tur, så att leverantörens promptcache fortsätter att löna sig. Fästningen släpper när en tur kräver mer.

Lär sig, om du låter den

Valfri Thompson sampling lär sig av lyckade och misslyckade anrop bland behöriga deployments. En ny nyckel utgår från det organisationen redan har lärt sig; golven gäller fortfarande.

Intelligent routing
Fallback-kedjor, konfigurerade per modellalias i konsolen.

Steg för steg

  1. 01

    Analysera

    Requesten bryts ner strukturellt — modalitet, verktyg, vision, kontextstorlek och signaler om resonemang blir en explicit kapabilitetsprofil.

  2. 02

    Sätt golv

    Nödvändiga förmågor omvandlas till hårda golv. Varje deployment som inte klarar dem utesluts innan kostnaden ens vägs in.

  3. 03

    Välj

    Bland behöriga deployments väljer strategin en: den billigaste, den snabbaste, efter vikt eller i tur och ordning — för hela plattformen eller för varje organisation.

  4. 04

    Förklara och falla tillbaka

    Vald modell och skäl registreras och kan returneras som svarshuvuden. Vid fel gör ordnade fallbacks omförsök — starkast först i den intelligenta strategin — med circuit breakers i spel.

response headers
# Wäg can tell you what it did (illustrative values)
x-waeg-routed-model: openai/gpt-4o-mini
x-waeg-route-reason: score 18 · conf 0.91 · min_tier economy · no tools, short ctx
x-waeg-cost-usd: 0.00041
Del av control plane:n

Intelligent routing är en av sex kontrollytor som tillämpas i samma requestväg och gäller varje applikation bakom endpointen — även de som aldrig instrumenterades.

Se hur de samverkar

En endpoint. Alla modeller. Full kontroll.

Börja med open source

Kör den i er egen infrastruktur

Allt ni behöver för att köra en control plane i produktion är Apache-2.0 och förblir det — routing, HA, cache, failover, budgetar, policy, MCP, jobb och observability. Self-hosted, inget konto, ingen phone-home.

$ docker run -p 4000:4000 <registry>/waeg-gateway:<version>

Ingen fungerande pull: avbilderna är inte publika än. Designpartner får registeruppgifterna privat.

Driftsätt på 5 minuter
Designpartnerskap

Forma den som design partner

Wäg är ännu inte publikt släppt. Vi arbetar med en liten grupp team som kör AI från flera leverantörer i produktion och tar styrning och suveränitet på allvar, för att härda control plane:n mot verkliga arbetslaster.

  • Alla Enterprise-funktioner ingår, utan licenskostnad
  • Praktisk migrering — vi gör den tillsammans med er, även från LiteLLM
  • En direktlinje till ingenjörerna som bygger den, och verkligt inflytande över vad som kommer härnäst
Ansök till programmet