LiteLLM-alternatieven beoordelen

Wat u elke gateway moet vragen — ook ons

1. Sluit governance aan op uw organogram?

   Vraag Stapelen budgetten zich over organisatie, team, gebruiker, model en key? Slaan ze hard dicht? Kan het ene team de capaciteit van het andere opsouperen?

   Waarom het ertoe doet Limieten per key werken voor één team. Zodra uitgaven aan kostenplaatsen moeten worden toegerekend en per team moeten worden begrensd, is een key de verkeerde eenheid.

   Wäg Budgetten stapelen van organisatie via team, gebruiker en applicatie tot key, met fair-share-plafonds, en een overschrijding wijst het request af voordat de provider wordt aangeroepen.

2. Wordt policy in het request-pad afgedwongen?

   Vraag Geldt een regel ook voor een applicatie die niets heeft geïntegreerd? Of alleen waar iemand eraan dacht een hook toe te voegen?

   Waarom het ertoe doet Een regel die alleen geldt waar hij is ingeschakeld, is een advies en geen controle — en de applicatie die niemand heeft geregistreerd is die waar het lekt.

   Wäg Een geordende policy-keten — vóór de call, mid-stream en erna — draait op elk request dat het endpoint bereikt.

3. Hoe groot is de runtime-voetafdruk?

   Vraag Wat zit er in het image? Een interpreter, een package manager, een dependency-boom die bij het deployen wordt opgelost?

   Waarom het ertoe doet Alles in dat image staat voor elk AI-request. Het is aanvalsoppervlak in de supply chain en operationeel oppervlak, en het groeit mee met het belang van de gateway.

   Wäg Eén distroless, non-root Rust-binary. De benchmarkpagina toont de imagegrootte, het geheugengebruik en de opstarttijd, naast elkaar gemeten. Bekijk de benchmarks

4. Zijn routingbeslissingen te verklaren?

   Vraag Leidt hetzelfde request altijd tot dezelfde beslissing? Meldt de response welk model het afhandelde, en waarom?

   Waarom het ertoe doet Als niemand kan uitleggen waarom een request naar het dure model ging, kan niemand het oplossen — of tegenover finance verdedigen.

   Wäg Intelligente routing beoordeelt requests structureel, zodat hetzelfde request dezelfde analyse krijgt. Elke response noemt zijn model in x-waeg-routed-model; intelligente routing voegt x-waeg-route-reason toe.

5. Bestuurt het de tool-calls van agents?

   Vraag Hoe worden MCP-servers geauthenticeerd? Kunnen tools per agent op een allowlist? Wordt elke hop van een agent-run gebudgetteerd en vastgelegd? Kan een call worden vastgehouden voor een mens?

   Waarom het ertoe doet Eén gebruikersbeurt wordt tientallen model- en tool-calls, sommige met echte credentials. Een gateway die alleen de modelcalls ziet, ziet de onschuldige helft.

   Wäg Auth per server, tool-allowlists en pinning, runlimieten, goedkeuring door een benoemde persoon — met Enterprise ook in Slack of Teams — en budget en audit per hop.

6. Wat levert het op voor audit?

   Vraag Wat zou u over zes maanden aan een complianceteam geven — verkeerslogs, of een vastlegging van wat is besloten en waarom?

   Waarom het ertoe doet Sinds 2 augustus 2026 brengen de transparantieverplichtingen van de EU AI Act en de GPAI-handhaving sanctierisico met zich mee. Logging en traceerbaarheid moeten aantoonbaar zijn.

   Wäg Een beslissingsrecord per request — model, reden, policy-verdicts, kosten, actor — in een open-source, ondertekend bewijsregister dat u offline controleert met waeg ledger verify. Enterprise voegt bewijspakketten toe die aan de AI Act en DORA zijn gekoppeld, met gemarkeerde hiaten, en markering van AI-content.

7. Wie beheert het control plane?

   Vraag Rapporteert een zelf gehoste data plane aan een control plane dat door de leverancier wordt beheerd? Wat verlaat uw perimeter? Wat gebeurt er als de leverancier wordt overgenomen?

   Waarom het ertoe doet Een leverancier boven het request-pad is een afhankelijkheid vóór productie, en zijn continuïteit wordt de uwe.

   Wäg U. Er is geen control plane van de leverancier, geen telemetrie en geen phone-home — beide vlakken draaien in uw eigen infrastructuur.

8. Wat zijn jurisdictie en licentie van de leverancier?

   Vraag Waar is de leverancier gevestigd? Belt de software thuis of dwingt ze een licentie af tijdens runtime? Kan de licentie onder u veranderen?

   Waarom het ertoe doet De licentie bepaalt wat u kunt blijven draaien als de relatie eindigt. De jurisdictie bepaalt wie anders nog eisen aan uw leverancier kan stellen.

   Wäg Bitkaio Ltd, VK. Het productiepad van de gateway is Apache-2.0 — routing, HA, caching, failover, budgetten, policy en MCP. De licentie is een ondertekend offline token zonder licentieserver; Enterprise voegt identiteit, auditbewijs en agentbetalingen toe.

Waar LiteLLM voorloopt

Een gids die alleen onze sterke punten noemt, is het lezen niet waard. LiteLLM heeft:

• Een langere lijst providers, ook uit de lange staart, die Wäg nog niet dekt.
• In-process Python-callbacks, als uw team de gateway in Python uitbreidt.
• Een grote community en jaren productiegebruik. Wäg heeft nog geen publieke release gehad.
• Een SOC 2 Type II-rapport en IP-allowlists in de enterprise-tier. Wäg heeft vandaag geen van beide.

Drie architecturen, geen twintig producten

Producten in deze categorie veranderen elk kwartaal. De architectuur eronder niet, en die bepaalt de meeste van bovenstaande vragen.

Dezelfde API, een laag hoger

Wäg is een zelf gehoste AI control plane met de gateway inbegrepen. Het spreekt dezelfde OpenAI-compatibele API en importeert LiteLLM-configuratie, dus uitproberen kost één base-URL — en u kunt beide naast elkaar draaien tot de cijfers overeenkomen.