JÄMFÖRELSE

Wäg och LiteLLM: samma API, ett annat lager

LiteLLM är en mycket bra AI-gateway, och om det ni behöver är routing till flera leverantörer bakom en endpoint kommer den att fortsätta tjäna er väl. Wäg talar samma OpenAI-kompatibla API och importerar LiteLLM-konfiguration — inte för att ersätta en gateway med en annan gateway, utan för att de flesta team når en punkt där det inte är gatewayen som är ansträngd.

RELATIONEN

Ingen konkurrent på samma lager

LiteLLM
AI-gatewayRouting · virtuella nycklar · cache · reservvägar · budgetar per nyckel
Wäg
AI control planeTenantisolering · staplade budgetar · skyddsräckeskedjor · agentstyrning · bevisliggare · dataresidens
AI-gateway (ingår)Routing · virtuella nycklar · cache · reservvägar · budgetar per nyckel

Samma OpenAI-kompatibla API-yta. Samma konfiguration, importerbar.

LICENSGRÄNS

Gratis här. Enterprise där.

Båda projekten är öppen källkod med en kommersiell nivå. Frågan har aldrig varit om det finns en betald utgåva, utan var var och en drar gränsen. LiteLLMs Enterprise-dokumentation listar vad deras licensnyckel slår på, och det mesta på den listan är Apache-2.0 i Wäg. När det gäller flera hyresgäster är skillnaden strukturell: i deras publicerade databasschema bär en organisation ett budgetvärde, utgiftssummor och en medlemslista, och ett team pekar på den genom en valfri främmande nyckel, vilket gör den till en grupperingsnivå ovanför team. I Wäg är en organisation en auktoriseringsgräns som varje förfrågan prövas mot. Där vi lägger samma funktion bakom en licens säger tabellen det.

FunktionLiteLLMWäg
Flerhyresgästarkitektur: organisationer, team, relationsbaserad åtkomstEnterpriseApache-2.0
Rollbaserad åtkomstkontrollEnterpriseApache-2.0
Budgetar under nyckeln: per modell, per applikationEnterpriseApache-2.0
Skyddsräcken per nyckel och per teamEnterpriseApache-2.0
Hanterade skyddsräcken: moderering samt sökning efter hemligheter och promptinjektionEnterpriseApache-2.0
Integration med hemlighetshanterare: Vault, Key Vault, Secrets ManagerEnterpriseApache-2.0
Drift över flera regionerEnterpriseApache-2.0
Policy för payloadloggning, per organisation, med avanmälan på medlemsnivåEnterpriseApache-2.0
Hashkedjade, signerade förfrågningsbevisEj angivetApache-2.0
Routing enbart till tillåtna jurisdiktionerEj angivetApache-2.0
Rapportering av lokal modellanvändning från de anställdas enheterEj angivetApache-2.0
Agentidentitet, körningar och körningsgränserEj angivetApache-2.0
Policy för verktygsanrop med mänskliga godkännandenEj angivetApache-2.0
Kontroll av dataflöden: den dödliga trionEj angivetApache-2.0
Fastnålade MCP-verktyg och karantän vid ändringEj angivetApache-2.0
Kortlivade agentuppgifter, inga permanenta nycklarEj angivetApache-2.0
Åtkomsträtter för vidarebefordrade anrop till tredjeparts-API:erEnterpriseApache-2.0
En agents utgående webbtrafik, per värdregel och avgjord per anslutningEj angivetApache-2.0
Agentbetalningar: utgiftsmandat och betalningsspårEj angivetEnterprise
Godkänna agenters verktygsanrop i Slack eller TeamsEj angivetEnterprise
Importera agenter från Foundry, AWS, Entra Agent ID och Gemini EnterpriseEj angivetEnterprise
TLS-inspektion av agenters utgående trafikEj angivetEnterprise
SSO för administrationskonsolenEnterpriseEnterprise
SCIM-provisioneringEnterpriseEnterprise
JWT och OIDC på dataplanetEnterpriseEnterprise
Revisionspaket med lång lagringEnterpriseEnterprise
Skyddsräcken på leverantörens egen pass-through-trafikEj angivetEnterprise
MCP-servrar som agerar som den inloggade användaren (OAuth)Ej angivetEnterprise
Kundhanterade krypteringsnycklar, rapportering av FIPS-lägeEj angivetEnterprise
Egen grafisk profilEnterpriseEnterprise
Plattformsbudgetar som organisationer inte kan ändraEj angivetEnterprise
En skrivskyddad revisorsrollEj angivetEnterprise
Exitexport: allt en organisation behöver för att flytta någon annanstansEj angivetEnterprise
Märkning av AI-innehåll: C2PA, vattenmärken, textfingeravtryckEj angivetEnterprise
Styrning av lokala modeller på de anställdas enheterEj angivetEnterprise

För rättvisans skull: deras Enterprise-nivå har också IP-tillåtelselistor och en SOC 2 Type II-rapport. Inget av dem har vi i dag.

LiteLLM-kolumnen kommer från deras egen Enterprise-dokumentation, som anger att en licensnyckel slår på funktionerna som listas där. Ej angivet betyder att en funktion inte nämns på den sidan, vilket inte är samma sak som att den vore omöjlig. Wäg-kolumnen är den licensuppdelning gatewayen tillämpar: en Enterprise-funktion är en modul som en signerad licens måste namnge. Agentraderna markerade Ej angivet är ett Ej angivet av ett annat slag: deras agentgateway är inte alls en Enterprise-funktion, så de förmågorna saknas i produkten i stället för att vara inprisade i licensen.

AGENTLAGRET

Båda levererar en agentgateway. Bara den ena styr agenten.

LiteLLM har lagt till en A2A-agentgateway, och gör det självklara bra: registrera agenter, styra vilka team och nycklar som får nå dem, fördela kostnaden. Två rader är verklig jämvikt. Resten är där de två produkterna slutar vara samma sak.

FunktionLiteLLMWäg
A2A-agentgateway med åtkomstkontroll och kostnadsfördelning per agentJaJa
Ett nödstopp som avvisar agenten vid gatewayenWebhook till agentenJa
Gränser för en enskild agentkörningJaJa
Ett verktygsanrop som väntar på en namngiven godkännare, med beslutet registreratEj dokumenteratJa
Flödeskontroll: en körning som läst privata data får sedan inte anropa ett utgående verktygEj dokumenteratJa
MCP-verktygsdefinitioner fastnålade och satta i karantän när servern ändrar demEj dokumenteratJa
Kortlivade agentuppgifter bundna till en körning, utan permanenta nycklarEj dokumenteratJa
Vilka destinationer en agent får nå, avgjort per anrop: verktygspolicy, godkännande, flödesetikettEj dokumenteratJa
Agentens hela utgående webbtrafik genom gatewayen, inte bara dess model- och verktygsanropEj dokumenteratJa
Agenter hittade genom sin trafik, inte bara de som någon registreratEj dokumenteratJa
Agenter importerade och synkroniserade från Foundry, AWS Agent Registry, Entra Agent ID och Gemini EnterpriseEj dokumenteratEnterprise
Ett kvarhållet verktygsanrop godkänt eller nekat i Slack eller Microsoft TeamsEj dokumenteratEnterprise
TLS-inspektion av en agents utgående trafik, med requestregler och guardrailsEj dokumenteratEnterprise
Agentbetalningar: utgiftsmandat, x402, AP2, ACP- och UCP-utcheckningEj dokumenteratEnterprise

LiteLLM-kolumnen återger vad deras egen dokumentation och deras publika repo visar. Ej dokumenterat betyder att funktionen inte beskrivs där, vilket inte är samma sak som omöjligt. Tre rader förtjänar detaljerna. Deras nödstopp avfyrar en webhook mot agentens egen körmiljö och lämnar, med deras egna ord, agenten registrerad och aktiverad på LiteLLM-sidan; vårt avvisar agenten vid gatewayen, på varje replik och region, och avslutar en ström som redan pågår. Deras require_approval är OpenAI:s fält: satt till något annat än never skickas verktygsanropet tillbaka till klienten för att köras — ingenting hålls kvar, ingen namnges, ingenting registreras. Och för agentbetalningar ger en kodsökning i deras repo efter x402 och AP2 ingenting alls. För tredjeparts-API:er ligger skillnaden inte i vidarebefordran. Deras pass-through-slutpunkter dirigerar till vilket externt API som helst med en uppgift angiven i konfigurationen, och rätter per nyckel och team är en Enterprise-funktion. Det som saknas är beslutet: destinationen är en statisk rutt och inte något en viss agent får eller inte får nå, ingen regel läser anropets argument, inget godkännande kan hålla kvar det, det bär ingen flödesetikett och räknas inte mot en körning.

Så fungerar agentstyrning i Wäg

NÄR NI SKA BEHÅLLA LITELLM

Fall där LiteLLM är rätt svar

På riktigt. Om ni känner igen er situation här ger en control plane er driftsyta ni ännu inte behöver.

  • Ett team, en eller ett fåtal tjänster, och ni vill nå flera leverantörer idag.
  • Ni använder import litellm inne i applikationskoden för dess routing i processen och callbacks, och värdesätter det direkt.
  • Ni har egna Python-callbacks i requestlivscykeln som skulle vara ett verkligt arbete att implementera om.
  • Er leverantörslista innehåller något smalt som Wäg ännu inte täcker.
  • Era styrningskrav uppfylls faktiskt av budgetar per nyckel.
NÄR TEAM BYTER

Symptomen, inte funktionslistan

  • Budgetarna måste matcha organisationsschemat. Gränser per nyckel kan inte uttrycka ”det här teamet får 4 000 €, ingen enskild användare mer än 500 €, och marknadsavdelningens experiment får inte äta upp utvecklingsavdelningens kapacitet”.
  • Policy måste gälla applikationer som aldrig anslöt sig. En regel som bara kan tillämpas där någon kom ihåg att lägga in den är ingen kontroll.
  • Agenter gjorde ytan mycket större. En användartur blir N modell- och verktygsanrop mot externa MCP-servrar. Autentisering per server, verktygs-ACL:er och revision per steg slutar vara trevligt att ha.
  • Någon frågade vad AI kostade, per team, förra kvartalet. Och att svara krävde ett dataprojekt snarare än en dashboard.
  • Regelefterlevnad behöver protokoll, inte avsikter. Sedan den 2 augusti 2026 medför tillsynsbefogenheterna över GPAI och transparenskraven i artikel 50 i EU:s AI-förordning sanktionsrisk. Loggning och spårbarhet måste gå att påvisa.
  • Gatewayen blev bärande. När varje produktflöde ligger bakom den är en Python-process med en interpretator och ett beroendeträd som löses ut vid driftsättning ett annat risksamtal än det var vid tio requests i minuten.
IDENTISKT

Vad som inte förändras alls

OpenAI-kompatibelt APIErt SDKModellaliasStreamingVerktygsanropVisionSelf-hostedOpen sourceEra leverantörskonton och nycklarIngen leverantör i datavägen
ARKITEKTUR

Designåtaganden, inte en funktionsräkning

Funktionstabeller blir inaktuella på ett kvartal. Det här är strukturella val som inte ändras med en release.

DimensionLiteLLMWäg
KärnabstraktionDispatch till leverantörs-SDK bakom HTTPInferensrequest: modalitet, operation, livscykel, kostnad, policy
RuntimePythonRust — en distroless-binär som körs utan root
LivscyklerSynkront, streamingSynkront, streaming, beständiga asynkrona jobb, realtidssessioner
RoutingVal av strategi plus fallbacksStrukturell poängsättning → hårda kapabilitetsgolv → billigaste behöriga; förklarbart i svarshuvuden
CacheExakt, valfritt semantiskExakt → kanonisk → nära-dubblett → semantisk, med spärrar mot falska träffar
BudgetarPer nyckelOrg → team → användare → applikation → modell → nyckel, staplade, med tak för rättvis andel; ett överskridande nekas innan någon kostnad uppstår hos leverantören
PolicyGuardrail-hooksOrdnad kedja: före anropet, fönsterbaserat mitt i strömmen, efter anropet
Agent / MCPMCP- och A2A-gateway: autentisering per server, åtkomst per nyckel och teamPlus verktygspolicyer med namngivna godkännare, dataflödesregler, fästning av verktyg, körningsgränser, budget och revision per steg
Lokala modeller och modeller på enhetenNås som leverantör från proxynWäg Edge på bärbara datorer och i iOS- och Android-appar: inloggning och rapportering med öppen källkod, styrning på enheter och flotta med Enterprise
IdentitetHuvudnyckel plus virtuella nycklarPlus OpenFGA-tenans; OIDC SSO, SCIM 2.0 och IdP-tokens på /v1 med Enterprise
Kubernetes-livscykelOfficiellt Helm-chart; operatorer kommer från communitynEgen operator med ett OLM-paket, som stämmer av gatewayen och dess katalog; även ett Helm-chart
UtbyggnadsmodellPython-callbacks, i processenMotorer via HTTP-webhook, utanför processen
LeverantörRegistrerad i USABitkaio Ltd, Storbritannien — europeiskt, utanför EU

Om LiteLLM gör sitt jobb, behåll den. Om det som faktiskt är ansträngt är styrning snarare än routing är det ett annat lager — och det är det Wäg är byggd för.

En endpoint. Alla modeller. Full kontroll.

Börja med open source

Kör den i er egen infrastruktur

Allt ni behöver för att köra en control plane i produktion är Apache-2.0 och förblir det — routing, HA, cache, failover, budgetar, policy, MCP, jobb och observability. Self-hosted, inget konto, ingen phone-home.

$ docker run -p 4000:4000 <registry>/waeg-gateway:<version>

Ingen fungerande pull: avbilderna är inte publika än. Designpartner får registeruppgifterna privat.

Driftsätt på 5 minuter
Designpartnerskap

Forma den som design partner

Wäg är ännu inte publikt släppt. Vi arbetar med en liten grupp team som kör AI från flera leverantörer i produktion och tar styrning och suveränitet på allvar, för att härda control plane:n mot verkliga arbetslaster.

  • Alla Enterprise-funktioner ingår, utan licenskostnad
  • Praktisk migrering — vi gör den tillsammans med er, även från LiteLLM
  • En direktlinje till ingenjörerna som bygger den, och verkligt inflytande över vad som kommer härnäst
Ansök till programmet