Valutare le alternative a LiteLLM

Cosa chiedere a qualsiasi gateway — anche a noi

1. La governance rispecchia l'organigramma?

   Domandate I budget si sovrappongono su organizzazione, team, utente, modello e chiave? Bloccano in modo netto? Un team può esaurire la capacità di un altro?

   Perché conta I limiti per chiave vanno bene per un solo team. Quando la spesa va attribuita ai centri di costo e limitata per team, la chiave è l'unità sbagliata.

   Wäg I budget si sovrappongono dall'organizzazione alla chiave passando per team, utente e applicazione, con tetti di equità, e un superamento respinge la richiesta prima che il provider venga chiamato.

2. La policy è applicata nel percorso della richiesta?

   Domandate Una regola vale anche per un'applicazione che non ha integrato nulla? O solo dove qualcuno si è ricordato di aggiungere un hook?

   Perché conta Una regola che vale solo dove si è aderito è un consiglio, non un controllo — e l'applicazione che nessuno ha registrato è quella che perde dati.

   Wäg Una catena di policy ordinata — prima, durante e dopo la chiamata — viene eseguita su ogni richiesta che raggiunge l'endpoint.

3. Qual è l'impronta a runtime?

   Domandate Cosa c'è nell'immagine? Un interprete, un gestore di pacchetti, un albero di dipendenze risolto al deploy?

   Perché conta Tutto ciò che è in quell'immagine sta davanti a ogni richiesta IA. È superficie per la supply chain e per le operazioni, e cresce con l'importanza del gateway.

   Wäg Un solo binario Rust, distroless, senza root. La pagina dei benchmark riporta dimensione dell'immagine, memoria e tempi di avvio, misurati fianco a fianco. Vedi i benchmark

4. Le decisioni di routing sono spiegabili?

   Domandate La stessa richiesta produce sempre la stessa decisione? La risposta dice quale modello l'ha servita, e perché?

   Perché conta Se nessuno sa spiegare perché una richiesta è finita sul modello costoso, nessuno può correggerla — né difenderla davanti alla finanza.

   Wäg Il routing intelligente valuta le richieste in modo strutturale, così la stessa richiesta riceve la stessa analisi. Ogni risposta indica il proprio modello in x-waeg-routed-model; il routing intelligente aggiunge x-waeg-route-reason.

5. Governa le chiamate agli strumenti degli agenti?

   Domandate Come si autenticano i server MCP? Si possono consentire strumenti specifici per agente? Ogni passaggio di un'esecuzione è contabilizzato e registrato? Una chiamata può essere trattenuta per una persona?

   Perché conta Un singolo turno dell'utente diventa decine di chiamate a modelli e strumenti, alcune con credenziali reali. Un gateway che vede solo le chiamate ai modelli vede la metà innocua.

   Wäg Autenticazione per server, allow-list degli strumenti e fissaggio, limiti di esecuzione, approvazioni da parte di una persona con nome — anche in Slack o Teams, con Enterprise — e budget e audit per ogni passaggio.

6. Cosa produce per l'audit?

   Domandate Cosa consegnereste a un team di conformità tra sei mesi — log del traffico, o una traccia di ciò che è stato deciso e perché?

   Perché conta Dal 2 agosto 2026, gli obblighi di trasparenza del regolamento europeo sull'IA e l'applicazione delle norme GPAI comportano esposizione sanzionatoria. Registrazione e tracciabilità devono essere dimostrabili.

   Wäg Un record di decisione per richiesta — modello, motivo, verdetti di policy, costo, attore — in un registro delle prove open source e firmato, che verificate offline con waeg ledger verify. Enterprise aggiunge pacchetti di prove mappati sull'AI Act e su DORA, con le lacune segnalate, e la marcatura dei contenuti IA.

7. Chi gestisce la control plane?

   Domandate Una data plane self-hosted riferisce a una control plane gestita dal fornitore? Cosa esce dal vostro perimetro? Cosa succede se il fornitore viene acquisito?

   Perché conta Un fornitore sopra il percorso della richiesta è una dipendenza davanti alla produzione, e la sua continuità diventa la vostra.

   Wäg Voi. Non c'è una control plane del fornitore, né telemetria, né chiamate verso l'esterno — entrambi i piani girano nella vostra infrastruttura.

8. Qual è la giurisdizione del fornitore, e la licenza?

   Domandate Dove ha sede il fornitore? Il software chiama verso l'esterno o impone una licenza a runtime? La licenza può cambiare sotto i vostri piedi?

   Perché conta La licenza decide cosa potete continuare a far girare se il rapporto finisce. La giurisdizione decide chi altro può avanzare richieste al vostro fornitore.

   Wäg Bitkaio Ltd, Regno Unito. Il percorso di produzione del gateway è Apache-2.0 — routing, HA, cache, failover, budget, policy e MCP. La licenza è un token firmato offline senza server di licenze; Enterprise aggiunge identità, prove di audit e pagamenti degli agenti.

Dove LiteLLM è avanti

Una guida che elenca solo i nostri punti di forza non varrebbe la pena di essere letta. LiteLLM ha:

• Un elenco di provider più lungo, compresi quelli di coda lunga che Wäg non copre ancora.
• Callback Python in-process, se il vostro team estende il gateway in Python.
• Una community ampia e anni di uso in produzione. Wäg non ha ancora avuto il rilascio pubblico.
• Un rapporto SOC 2 Type II e liste di IP consentiti nel livello Enterprise. Wäg oggi non ha né l'uno né l'altro.

Tre architetture, non venti prodotti

I prodotti di questa categoria cambiano ogni trimestre. L'architettura che li sorregge no, e decide la maggior parte delle domande qui sopra.

La stessa API, un livello più su

Wäg è una AI control plane self-hosted con il gateway incluso. Parla la stessa API compatibile OpenAI e importa la configurazione LiteLLM, quindi provarlo costa un URL di base — e potete far girare entrambi in parallelo finché i numeri non coincidono.