Programma Switch

A 2.000 richieste al secondo, LiteLLM ne ha perse l'8%.

Wäg nessuna. Stessa macchina, stesso upstream, stesso carico, ogni gateway configurato come raccomanda la sua documentazione. Se il vostro rinnovo di LiteLLM Enterprise si avvicina, usate 90 giorni per scoprire quale numero produce il vostro traffico.

Richieste fallite a 2.000 req/s
0.00%vs7,99%
Non più lente. Fallite. Otto su cento non sono mai tornate.
Latenza p99 a 2.000 req/s
302 msvs27,9 s
Il solo upstream impiega 300 ms. Il resto è coda dentro il gateway.
Richieste al secondo, un core
13.264vs505
Quello che ottiene davvero un singolo pod Kubernetes.
Memoria a riposo
3,8 MBvs2302 MB
Prima di servire una sola richiesta.

Misurato con LiteLLM v1.104.2 nelle impostazioni predefinite, verso lo stesso upstream sullo stesso host con core fissati. Metodo completo, tutti gli scenari e ciò che la prova non mostra: il benchmark completo

Che cosa comprate con il rinnovo

LiteLLM sta portando il suo gateway su Rust e ne fa un forte argomento di vendita. La migrazione è reale. Questi tre fatti sono loro, pubblicati da loro:

  • Rust è diventato il default per l'OCR nella v1.102.0-rc.1, attivo per processo e disattivabile con LITELLM_RUST=0.
  • Le cifre Rust pubblicate misurano il percorso di inoltro, non un gateway completo.
  • La migrazione è scaglionata fino a dicembre 2026: non è quindi conclusa.
La configurazione in cui quelle cifre sono state ottenute

La riproduzione indipendente del benchmark Rust è stata eseguita con callback di logging, persistenza e tracciamento della spesa disattivati. Questi tre elementi sono gran parte di ciò per cui si paga una licenza Enterprise. Le nostre tabelle pubblicate confrontano gateway contro gateway senza database da nessuna delle due parti, quindi non risolvono neanche loro la questione. Il test con log delle richieste e spesa persistiti su Postgres è in corso di ripetizione sulla release attuale, e lo pubblicheremo quando sarà concluso.

Quando il percorso Rust coprirà budget, log di spesa e audit, misureremo di nuovo e pubblicheremo quello che troveremo, anche se ci batte.

State pagando funzioni che qui sono Apache-2.0.

Multi-tenancy. Budget sotto la chiave. Guardrail per team. Integrazione con i secret manager. La loro documentazione Enterprise elenca tutti e quattro come funzioni attivate da una chiave di licenza. In Wäg sono nella build Apache-2.0, e lo sono sempre stati.

Architettura multi-tenant: organizzazioni, team, accesso basato sulle relazioniEnterpriseApache-2.0
Budget sotto la chiave: per modello, per applicazioneEnterpriseApache-2.0
Guardrail per chiave e per teamEnterpriseApache-2.0
Integrazione con i gestori di segreti: Vault, Key Vault, Secrets ManagerEnterpriseApache-2.0
Policy sulle chiamate agli strumenti con approvazioni umaneNon indicatoApache-2.0

Ogni funzione che abbiamo confrontato, comprese quelle che anche noi mettiamo dietro una licenza, con la fonte di ogni riga: il confine di licenza completo

Il loro gateway registra gli agenti. Non li governa.

LiteLLM ha rilasciato un gateway di agenti A2A e le basi ci sono: registrare un agente, controllare quali team e chiavi lo raggiungono, attribuire il costo. Quello che la loro documentazione non descrive: una chiamata trattenuta per una persona con nome che deve dire di sì; un'esecuzione che non può più chiamare uno strumento in uscita dopo aver letto dati privati; una definizione di strumento fissata perché un cambiamento silenzioso venga colto invece che eseguito; o una credenziale che vive minuti invece che per sempre. Il loro arresto di emergenza invia un webhook al runtime dell'agente e lo lascia registrato e attivo dalla loro parte — chiede gentilmente a ciò su cui avete perso il controllo di fermarsi. Il nostro lo rifiuta alla porta, su ogni replica e regione, e taglia uno stream già in corso.

E poi ci sono i pagamenti

Gli agenti stanno per smettere di essere assistenti e iniziare a essere acquirenti. Cercate x402 o AP2 nel loro repository pubblico e non trovate nulla — nessuna bozza, nessuna issue, niente. Wäg dà a un agente un mandato di spesa invece di una carta: un budget proprio per valuta, l'approvazione oltre una soglia che decidete voi, la traccia di ogni pagamento e binari per x402, mandati AP2 e checkout ACP o UCP.

Che aspetto ha la governance degli agenti · lo strato agenti, riga per riga

Lasciate Claude Code esattamente dov'è.

I vostri sviluppatori mantengono il percorso nativo del provider — Claude Code sul vostro piano Anthropic, Codex, Gemini CLI. Impostano un URL di base e un header con la loro chiave Wäg, e Wäg autentica il chiamante, addebita la spesa al budget del loro team e scrive il log della richiesta. Smettete di avere un punto cieco proprio dove lavorano i vostri utenti più costosi.

  • Endpoint e SDK nativi, così ogni strumento si comporta come dichiara la sua documentazione.
  • Con l'header della chiave Wäg, identità, budget e log delle richieste si applicano sulla stessa gerarchia di ogni altra chiamata. Senza, le chiamate vengono comunque inoltrate e misurate, ma non si applica alcun budget Wäg.
  • Con Enterprise le vostre catene di guardrail girano anche su quel traffico: gli stessi scanner già configurati, sull'unico percorso che altrimenti resterebbe non analizzato.

Detto chiaramente, visto che è comunque nella nostra documentazione: nella build open source il traffico in pass-through scorre non analizzato e lo dichiara in un header di risposta. È Enterprise a colmare quella lacuna.

Tre modi per iniziare

Scegliete quello che vi descrive. Nessuno costa nulla.

90 giorni

Licenza di valutazione

Per chiunque, senza domande

Tutte le capacità Enterprise per 90 giorni, con una chiave di licenza emessa in giornata. Tre volte la prova enterprise standard di 30 giorni in questa categoria. Nessuna carta, nessuna telefonata, nessun rinnovo automatico alla fine.

12 mesi

Programma Switch

Avete un contratto LiteLLM Enterprise in corso

Spostate il vostro carico su Wäg e i primi dodici mesi non hanno costo di licenza, uso in produzione incluso. Facciamo la migrazione insieme a voi, import della configurazione compreso. Diteci la vostra data di rinnovo e ci lavoriamo attorno.

12 mesi

Founding Design Partner

Un piccolo gruppo, selezionato da noi

Tutto quanto sopra, più una linea diretta con gli ingegneri che costruiscono Wäg e un'influenza reale su ciò che esce dopo. In cambio chiediamo un carico di produzione e una cadenza di feedback. Posti limitati, e capita che diciamo di no.

Che cosa comporta davvero il passaggio

Mantenete il vostro SDK, i vostri alias dei modelli e il vostro codice applicativo. Cambia un base URL. Il vostro config.yaml di LiteLLM viene importato, e vi diciamo esattamente che cosa non è passato invece di lasciarlo cadere in silenzio.

La migrazione, passo per passo · Dove Wäg e LiteLLM differiscono davvero

Novanta giorni, a partire da quando volete

Inizia dall'open source

Gestitelo nella vostra infrastruttura

Tutto ciò che serve per gestire una control plane in produzione è sotto Apache-2.0 e lo resterà — routing, alta disponibilità, cache, failover, budget, policy, MCP, job e osservabilità. Self-hosted, senza account, senza chiamate verso l'esterno.

$ docker run -p 4000:4000 <registry>/waeg-gateway:<version>

Non è un pull funzionante: le immagini non sono ancora pubbliche. I partner di progettazione ricevono i dettagli del registry in forma privata.

Avvia in 5 minuti
Partnership di progettazione

Contribuite come design partner

Wäg non è ancora disponibile pubblicamente. Lavoriamo con un piccolo gruppo di team che gestiscono IA multi-provider in produzione e prendono sul serio governance e sovranità, per irrobustire la control plane su carichi reali.

  • Tutte le funzioni Enterprise incluse, senza costi di licenza
  • Migrazione assistita — la facciamo insieme a voi, anche da LiteLLM
  • Una linea diretta con gli ingegneri e un'influenza reale su ciò che arriva dopo
Candidatevi al programma