Wäg och LiteLLM: samma API, ett annat lager
LiteLLM är en mycket bra AI-gateway, och om det ni behöver är routing till flera leverantörer bakom en endpoint kommer den att fortsätta tjäna er väl. Wäg talar samma OpenAI-kompatibla API och importerar LiteLLM-konfiguration — inte för att ersätta en gateway med en annan gateway, utan för att de flesta team når en punkt där det inte är gatewayen som är ansträngd.
Ingen konkurrent på samma lager
Samma OpenAI-kompatibla API-yta. Samma konfiguration, importerbar.
Gratis här. Enterprise där.
Båda projekten är öppen källkod med en kommersiell nivå. Frågan har aldrig varit om det finns en betald utgåva, utan var var och en drar gränsen. LiteLLMs Enterprise-dokumentation listar vad deras licensnyckel slår på, och det mesta på den listan är Apache-2.0 i Wäg. När det gäller flera hyresgäster är skillnaden strukturell: i deras publicerade databasschema bär en organisation ett budgetvärde, utgiftssummor och en medlemslista, och ett team pekar på den genom en valfri främmande nyckel, vilket gör den till en grupperingsnivå ovanför team. I Wäg är en organisation en auktoriseringsgräns som varje förfrågan prövas mot. Där vi lägger samma funktion bakom en licens säger tabellen det.
| Funktion | LiteLLM | Wäg |
|---|---|---|
| Flerhyresgästarkitektur: organisationer, team, relationsbaserad åtkomst | Enterprise | Apache-2.0 |
| Rollbaserad åtkomstkontroll | Enterprise | Apache-2.0 |
| Budgetar under nyckeln: per modell, per applikation | Enterprise | Apache-2.0 |
| Skyddsräcken per nyckel och per team | Enterprise | Apache-2.0 |
| Hanterade skyddsräcken: moderering samt sökning efter hemligheter och promptinjektion | Enterprise | Apache-2.0 |
| Integration med hemlighetshanterare: Vault, Key Vault, Secrets Manager | Enterprise | Apache-2.0 |
| Drift över flera regioner | Enterprise | Apache-2.0 |
| Policy för payloadloggning, per organisation, med avanmälan på medlemsnivå | Enterprise | Apache-2.0 |
| Hashkedjade, signerade förfrågningsbevis | Ej angivet | Apache-2.0 |
| Routing enbart till tillåtna jurisdiktioner | Ej angivet | Apache-2.0 |
| Rapportering av lokal modellanvändning från de anställdas enheter | Ej angivet | Apache-2.0 |
| Agentidentitet, körningar och körningsgränser | Ej angivet | Apache-2.0 |
| Policy för verktygsanrop med mänskliga godkännanden | Ej angivet | Apache-2.0 |
| Kontroll av dataflöden: den dödliga trion | Ej angivet | Apache-2.0 |
| Fastnålade MCP-verktyg och karantän vid ändring | Ej angivet | Apache-2.0 |
| Kortlivade agentuppgifter, inga permanenta nycklar | Ej angivet | Apache-2.0 |
| Åtkomsträtter för vidarebefordrade anrop till tredjeparts-API:er | Enterprise | Apache-2.0 |
| En agents utgående webbtrafik, per värdregel och avgjord per anslutning | Ej angivet | Apache-2.0 |
| Agentbetalningar: utgiftsmandat och betalningsspår | Ej angivet | Enterprise |
| Godkänna agenters verktygsanrop i Slack eller Teams | Ej angivet | Enterprise |
| Importera agenter från Foundry, AWS, Entra Agent ID och Gemini Enterprise | Ej angivet | Enterprise |
| TLS-inspektion av agenters utgående trafik | Ej angivet | Enterprise |
| SSO för administrationskonsolen | Enterprise | Enterprise |
| SCIM-provisionering | Enterprise | Enterprise |
| JWT och OIDC på dataplanet | Enterprise | Enterprise |
| Revisionspaket med lång lagring | Enterprise | Enterprise |
| Skyddsräcken på leverantörens egen pass-through-trafik | Ej angivet | Enterprise |
| MCP-servrar som agerar som den inloggade användaren (OAuth) | Ej angivet | Enterprise |
| Kundhanterade krypteringsnycklar, rapportering av FIPS-läge | Ej angivet | Enterprise |
| Egen grafisk profil | Enterprise | Enterprise |
| Plattformsbudgetar som organisationer inte kan ändra | Ej angivet | Enterprise |
| En skrivskyddad revisorsroll | Ej angivet | Enterprise |
| Exitexport: allt en organisation behöver för att flytta någon annanstans | Ej angivet | Enterprise |
| Märkning av AI-innehåll: C2PA, vattenmärken, textfingeravtryck | Ej angivet | Enterprise |
| Styrning av lokala modeller på de anställdas enheter | Ej angivet | Enterprise |
För rättvisans skull: deras Enterprise-nivå har också IP-tillåtelselistor och en SOC 2 Type II-rapport. Inget av dem har vi i dag.
LiteLLM-kolumnen kommer från deras egen Enterprise-dokumentation, som anger att en licensnyckel slår på funktionerna som listas där. Ej angivet betyder att en funktion inte nämns på den sidan, vilket inte är samma sak som att den vore omöjlig. Wäg-kolumnen är den licensuppdelning gatewayen tillämpar: en Enterprise-funktion är en modul som en signerad licens måste namnge. Agentraderna markerade Ej angivet är ett Ej angivet av ett annat slag: deras agentgateway är inte alls en Enterprise-funktion, så de förmågorna saknas i produkten i stället för att vara inprisade i licensen.
Båda levererar en agentgateway. Bara den ena styr agenten.
LiteLLM har lagt till en A2A-agentgateway, och gör det självklara bra: registrera agenter, styra vilka team och nycklar som får nå dem, fördela kostnaden. Två rader är verklig jämvikt. Resten är där de två produkterna slutar vara samma sak.
| Funktion | LiteLLM | Wäg |
|---|---|---|
| A2A-agentgateway med åtkomstkontroll och kostnadsfördelning per agent | Ja | Ja |
| Ett nödstopp som avvisar agenten vid gatewayen | Webhook till agenten | Ja |
| Gränser för en enskild agentkörning | Ja | Ja |
| Ett verktygsanrop som väntar på en namngiven godkännare, med beslutet registrerat | Ej dokumenterat | Ja |
| Flödeskontroll: en körning som läst privata data får sedan inte anropa ett utgående verktyg | Ej dokumenterat | Ja |
| MCP-verktygsdefinitioner fastnålade och satta i karantän när servern ändrar dem | Ej dokumenterat | Ja |
| Kortlivade agentuppgifter bundna till en körning, utan permanenta nycklar | Ej dokumenterat | Ja |
| Vilka destinationer en agent får nå, avgjort per anrop: verktygspolicy, godkännande, flödesetikett | Ej dokumenterat | Ja |
| Agentens hela utgående webbtrafik genom gatewayen, inte bara dess model- och verktygsanrop | Ej dokumenterat | Ja |
| Agenter hittade genom sin trafik, inte bara de som någon registrerat | Ej dokumenterat | Ja |
| Agenter importerade och synkroniserade från Foundry, AWS Agent Registry, Entra Agent ID och Gemini Enterprise | Ej dokumenterat | Enterprise |
| Ett kvarhållet verktygsanrop godkänt eller nekat i Slack eller Microsoft Teams | Ej dokumenterat | Enterprise |
| TLS-inspektion av en agents utgående trafik, med requestregler och guardrails | Ej dokumenterat | Enterprise |
| Agentbetalningar: utgiftsmandat, x402, AP2, ACP- och UCP-utcheckning | Ej dokumenterat | Enterprise |
LiteLLM-kolumnen återger vad deras egen dokumentation och deras publika repo visar. Ej dokumenterat betyder att funktionen inte beskrivs där, vilket inte är samma sak som omöjligt. Tre rader förtjänar detaljerna. Deras nödstopp avfyrar en webhook mot agentens egen körmiljö och lämnar, med deras egna ord, agenten registrerad och aktiverad på LiteLLM-sidan; vårt avvisar agenten vid gatewayen, på varje replik och region, och avslutar en ström som redan pågår. Deras require_approval är OpenAI:s fält: satt till något annat än never skickas verktygsanropet tillbaka till klienten för att köras — ingenting hålls kvar, ingen namnges, ingenting registreras. Och för agentbetalningar ger en kodsökning i deras repo efter x402 och AP2 ingenting alls. För tredjeparts-API:er ligger skillnaden inte i vidarebefordran. Deras pass-through-slutpunkter dirigerar till vilket externt API som helst med en uppgift angiven i konfigurationen, och rätter per nyckel och team är en Enterprise-funktion. Det som saknas är beslutet: destinationen är en statisk rutt och inte något en viss agent får eller inte får nå, ingen regel läser anropets argument, inget godkännande kan hålla kvar det, det bär ingen flödesetikett och räknas inte mot en körning.
Fall där LiteLLM är rätt svar
På riktigt. Om ni känner igen er situation här ger en control plane er driftsyta ni ännu inte behöver.
- Ett team, en eller ett fåtal tjänster, och ni vill nå flera leverantörer idag.
- Ni använder import litellm inne i applikationskoden för dess routing i processen och callbacks, och värdesätter det direkt.
- Ni har egna Python-callbacks i requestlivscykeln som skulle vara ett verkligt arbete att implementera om.
- Er leverantörslista innehåller något smalt som Wäg ännu inte täcker.
- Era styrningskrav uppfylls faktiskt av budgetar per nyckel.
Symptomen, inte funktionslistan
- Budgetarna måste matcha organisationsschemat. Gränser per nyckel kan inte uttrycka ”det här teamet får 4 000 €, ingen enskild användare mer än 500 €, och marknadsavdelningens experiment får inte äta upp utvecklingsavdelningens kapacitet”.
- Policy måste gälla applikationer som aldrig anslöt sig. En regel som bara kan tillämpas där någon kom ihåg att lägga in den är ingen kontroll.
- Agenter gjorde ytan mycket större. En användartur blir N modell- och verktygsanrop mot externa MCP-servrar. Autentisering per server, verktygs-ACL:er och revision per steg slutar vara trevligt att ha.
- Någon frågade vad AI kostade, per team, förra kvartalet. Och att svara krävde ett dataprojekt snarare än en dashboard.
- Regelefterlevnad behöver protokoll, inte avsikter. Sedan den 2 augusti 2026 medför tillsynsbefogenheterna över GPAI och transparenskraven i artikel 50 i EU:s AI-förordning sanktionsrisk. Loggning och spårbarhet måste gå att påvisa.
- Gatewayen blev bärande. När varje produktflöde ligger bakom den är en Python-process med en interpretator och ett beroendeträd som löses ut vid driftsättning ett annat risksamtal än det var vid tio requests i minuten.
Vad som inte förändras alls
Designåtaganden, inte en funktionsräkning
Funktionstabeller blir inaktuella på ett kvartal. Det här är strukturella val som inte ändras med en release.
| Dimension | LiteLLM | Wäg |
|---|---|---|
| Kärnabstraktion | Dispatch till leverantörs-SDK bakom HTTP | Inferensrequest: modalitet, operation, livscykel, kostnad, policy |
| Runtime | Python | Rust — en distroless-binär som körs utan root |
| Livscykler | Synkront, streaming | Synkront, streaming, beständiga asynkrona jobb, realtidssessioner |
| Routing | Val av strategi plus fallbacks | Strukturell poängsättning → hårda kapabilitetsgolv → billigaste behöriga; förklarbart i svarshuvuden |
| Cache | Exakt, valfritt semantisk | Exakt → kanonisk → nära-dubblett → semantisk, med spärrar mot falska träffar |
| Budgetar | Per nyckel | Org → team → användare → applikation → modell → nyckel, staplade, med tak för rättvis andel; ett överskridande nekas innan någon kostnad uppstår hos leverantören |
| Policy | Guardrail-hooks | Ordnad kedja: före anropet, fönsterbaserat mitt i strömmen, efter anropet |
| Agent / MCP | MCP- och A2A-gateway: autentisering per server, åtkomst per nyckel och team | Plus verktygspolicyer med namngivna godkännare, dataflödesregler, fästning av verktyg, körningsgränser, budget och revision per steg |
| Lokala modeller och modeller på enheten | Nås som leverantör från proxyn | Wäg Edge på bärbara datorer och i iOS- och Android-appar: inloggning och rapportering med öppen källkod, styrning på enheter och flotta med Enterprise |
| Identitet | Huvudnyckel plus virtuella nycklar | Plus OpenFGA-tenans; OIDC SSO, SCIM 2.0 och IdP-tokens på /v1 med Enterprise |
| Kubernetes-livscykel | Officiellt Helm-chart; operatorer kommer från communityn | Egen operator med ett OLM-paket, som stämmer av gatewayen och dess katalog; även ett Helm-chart |
| Utbyggnadsmodell | Python-callbacks, i processen | Motorer via HTTP-webhook, utanför processen |
| Leverantör | Registrerad i USA | Bitkaio Ltd, Storbritannien — europeiskt, utanför EU |
Om LiteLLM gör sitt jobb, behåll den. Om det som faktiskt är ansträngt är styrning snarare än routing är det ett annat lager — och det är det Wäg är byggd för.
En endpoint. Alla modeller. Full kontroll.
Kör den i er egen infrastruktur
Allt ni behöver för att köra en control plane i produktion är Apache-2.0 och förblir det — routing, HA, cache, failover, budgetar, policy, MCP, jobb och observability. Self-hosted, inget konto, ingen phone-home.
$ docker run -p 4000:4000 <registry>/waeg-gateway:<version>Ingen fungerande pull: avbilderna är inte publika än. Designpartner får registeruppgifterna privat.
Driftsätt på 5 minuterForma den som design partner
Wäg är ännu inte publikt släppt. Vi arbetar med en liten grupp team som kör AI från flera leverantörer i produktion och tar styrning och suveränitet på allvar, för att härda control plane:n mot verkliga arbetslaster.
- Alla Enterprise-funktioner ingår, utan licenskostnad
- Praktisk migrering — vi gör den tillsammans med er, även från LiteLLM
- En direktlinje till ingenjörerna som bygger den, och verkligt inflytande över vad som kommer härnäst