Instrada al modello più economico che sa davvero fare il lavoro
Risparmia senza rompere gli strumenti. Con la strategia intelligente, Wäg valuta ogni richiesta in modo strutturale, applica soglie di capacità rigide, poi sceglie il modello più economico che le supera — e può spiegarti il perché negli header di risposta. Se un provider viene limitato o va giù, il routing passa al successivo: continui a servire invece di andare in blackout.
"Con la strategia intelligente, i prompt brevi e ambigui salgono di un livello — non degradano mai la qualità in silenzio."
Valutazione strutturale
Ogni richiesta è valutata su strumenti, visione, lunghezza del contesto, indizi di ragionamento e profondità multi-turno — non un'ipotesi di un classificatore opaco.
Soglie di capacità rigide
I requisiti diventano soglie: una richiesta di visione non può mai finire su un modello solo testo. Con la strategia intelligente, i prompt brevi e ambigui salgono di un livello anziché scendere.
Vince il più economico idoneo
Tra i modelli che superano la soglia, Wäg sceglie il più economico. Risparmi sulle richieste facili senza rompere quelle difficili.
Decisioni spiegabili
Le risposte possono riportare x-waeg-routed-model e x-waeg-route-reason. La valutazione è deterministica: la stessa richiesta riceve sempre la stessa analisi.
Fallback dal più forte
Con la strategia intelligente, i fallback sono ordinati dal più forte, così un ritentativo dopo un errore non degrada mai di nascosto la risposta.
Sei strategie
weighted, latency, cost, round_robin, intelligent e model-driven — impostate per la piattaforma o per organizzazione. Un modello di routing opzionale può scegliere il livello, mai al di sotto dei requisiti rigidi.
Attento alla lingua
Il router rileva la lingua della richiesta, sposta leggermente verso la qualità le richieste non in inglese e preferisce i deployment etichettati per quella lingua. Quelli senza etichetta restano idonei.
Affinità di sessione
Agenti di coding e app di chat restano sul deployment che ha servito il loro ultimo turno, così la cache dei prompt del provider continua a rendere. Il vincolo cede quando un turno richiede di più.
Impara, se glielo permetti
Un campionamento di Thompson opzionale impara da successi e fallimenti tra i deployment idonei. Una nuova chiave parte da ciò che la sua organizzazione ha imparato; le soglie si applicano comunque.
Passo dopo passo
- 01
Analizzare
La richiesta è scomposta in modo strutturale — modalità, strumenti, visione, dimensione del contesto e segnali di ragionamento diventano un profilo di capacità esplicito.
- 02
Soglia
Le capacità richieste diventano soglie rigide. Qualsiasi distribuzione che non può soddisfarle è esclusa prima ancora di considerare il costo.
- 03
Selezionare
Tra i deployment idonei la strategia ne sceglie uno: il più economico, il più veloce, per peso o a turno — impostata per la piattaforma o per ciascuna organizzazione.
- 04
Spiegare e fare fallback
Il modello scelto e il motivo vengono registrati e possono essere restituiti come header. In caso di errore, i fallback ordinati riprovano — dal più capace con la strategia intelligente — con i circuit breaker attivi.
# Wäg can tell you what it did (illustrative values)
x-waeg-routed-model: openai/gpt-4o-mini
x-waeg-route-reason: score 18 · conf 0.91 · min_tier economy · no tools, short ctx
x-waeg-cost-usd: 0.00041Routing intelligente è una delle sei superfici di controllo applicate nello stesso percorso della richiesta, valide per ogni applicazione dietro l'endpoint — comprese quelle mai strumentate.
Vedi come si combinanoUn endpoint. Tutti i modelli. Controllo completo.
Gestitelo nella vostra infrastruttura
Tutto ciò che serve per gestire una control plane in produzione è sotto Apache-2.0 e lo resterà — routing, alta disponibilità, cache, failover, budget, policy, MCP, job e osservabilità. Self-hosted, senza account, senza chiamate verso l'esterno.
$ docker run -p 4000:4000 <registry>/waeg-gateway:<version>Non è un pull funzionante: le immagini non sono ancora pubbliche. I partner di progettazione ricevono i dettagli del registry in forma privata.
Avvia in 5 minutiContribuite come design partner
Wäg non è ancora disponibile pubblicamente. Lavoriamo con un piccolo gruppo di team che gestiscono IA multi-provider in produzione e prendono sul serio governance e sovranità, per irrobustire la control plane su carichi reali.
- Tutte le funzioni Enterprise incluse, senza costi di licenza
- Migrazione assistita — la facciamo insieme a voi, anche da LiteLLM
- Una linea diretta con gli ingegneri e un'influenza reale su ciò che arriva dopo