Switch-Programm

Bei 2.000 Anfragen pro Sekunde hat LiteLLM 8 % davon verloren.

Wäg keine einzige. Dieselbe Maschine, derselbe Upstream, dieselbe Last, jedes Gateway so konfiguriert, wie seine eigene Dokumentation es empfiehlt. Wenn Ihre LiteLLM-Enterprise-Verlängerung ansteht: Nehmen Sie sich 90 Tage und finden Sie heraus, welche Zahl Ihr Datenverkehr erzeugt.

Fehlgeschlagene Anfragen bei 2.000 Anfragen/s
0.00%vs7,99%
Nicht langsamer. Fehlgeschlagen. Acht von hundert kamen nie zurück.
p99-Latenz bei 2.000 Anfragen/s
302 msvs27,9 s
Der Upstream allein braucht 300 ms. Der Rest ist Wartezeit im Gateway.
Anfragen pro Sekunde, ein Kern
13.264vs505
Das, was ein einzelner Kubernetes-Pod tatsächlich bekommt.
Speicher im Leerlauf
3,8 MBvs2.302 MB
Bevor eine einzige Anfrage bedient wurde.

Gemessen mit LiteLLM v1.104.2 in den Standardeinstellungen, gegen denselben Upstream auf demselben Host mit fixierten Kernen. Vollständige Methode, alle Szenarien und das, was der Lauf nicht zeigt: der vollständige Benchmark

Was Ihre Verlängerung kauft

LiteLLM portiert sein Gateway nach Rust und vermarktet das Ergebnis offensiv. Die Migration ist real. Diese drei Fakten stammen von LiteLLM selbst:

  • Rust wurde in v1.102.0-rc.1 zum Standard für OCR, pro Prozess aktiviert und mit LITELLM_RUST=0 abschaltbar.
  • Die veröffentlichten Rust-Zahlen messen den Weiterleitungspfad, nicht ein funktional vollständiges Gateway.
  • Die Migration läuft gestaffelt bis Dezember 2026 — sie ist also nicht abgeschlossen.
Die Konfiguration, in der diese Zahlen entstanden sind

Eine unabhängige Reproduktion des Rust-Benchmarks lief mit abgeschalteten Logging-Callbacks, ohne Persistenz und ohne Spend-Tracking. Diese drei sind das meiste von dem, wofür eine Enterprise-Lizenz da ist. Unsere veröffentlichten Tabellen vergleichen Gateway mit Gateway ohne Datenbank auf beiden Seiten, sie klären diese Frage also auch nicht. Der Lauf mit in Postgres persistierten Request-Logs und Ausgaben wird auf dem aktuellen Release wiederholt, und wir veröffentlichen ihn, sobald er fertig ist.

Sobald der Rust-Pfad Budgets, Spend-Logs und Audit abdeckt, messen wir erneut und veröffentlichen das Ergebnis — auch wenn es besser ausfällt als unseres.

Sie zahlen für Funktionen, die hier unter Apache-2.0 stehen.

Mandantenfähigkeit. Budgets unterhalb des Schlüssels. Guardrails je Team. Anbindung an Secret-Manager. Deren Enterprise-Dokumentation führt alle vier als Funktionen auf, die ein Lizenzschlüssel freischaltet. In Wäg stecken sie im Apache-2.0-Build, und das von Anfang an.

Mandantenfähige Architektur: Organisationen, Teams, beziehungsbasierter ZugriffEnterpriseApache-2.0
Budgets unterhalb des Schlüssels: je Modell, je AnwendungEnterpriseApache-2.0
Guardrails je Schlüssel und je TeamEnterpriseApache-2.0
Anbindung an Secret-Manager: Vault, Key Vault, Secrets ManagerEnterpriseApache-2.0
Werkzeug-Policy mit menschlichen FreigabenNicht aufgeführtApache-2.0

Jede verglichene Funktion, einschließlich derer, die auch wir hinter die Lizenz legen, mit Quelle für jede Zeile: die vollständige Lizenzgrenze

Ihr Agenten-Gateway registriert Agenten. Es regiert sie nicht.

LiteLLM hat ein A2A-Agenten-Gateway geliefert, und die Grundlagen sind da: Agenten registrieren, steuern, welche Teams und Schlüssel sie erreichen, Kosten zuordnen. Was deren Dokumentation nicht beschreibt: ein Werkzeugaufruf, der auf eine benannte Person wartet, die zustimmen muss; ein Lauf, der kein ausgehendes Werkzeug mehr aufrufen darf, nachdem er private Daten gelesen hat; eine festgenagelte Werkzeugdefinition, damit eine stille Änderung auffällt statt ausgeführt zu werden; oder ein Zugangsschlüssel, der Minuten lebt statt für immer. Ihr Not-Aus feuert einen Webhook an die Laufzeitumgebung des Agenten und lässt ihn auf ihrer Seite registriert und aktiviert — er bittet das, worüber Sie die Kontrolle verloren haben, höflich aufzuhören. Unserer weist ihn an der Tür ab, auf jedem Replikat und in jeder Region, und kappt einen bereits laufenden Stream.

Und dann sind da die Zahlungen

Agenten hören gerade auf, Assistenten zu sein, und fangen an, Käufer zu sein. Suchen Sie in deren öffentlichem Repository nach x402 oder AP2, und Sie finden nichts — keinen Platzhalter, kein Issue, nichts. Wäg gibt einem Agenten ein Ausgabenmandat statt einer Karte: ein eigenes Budget je Währung, Freigabe ab einer von Ihnen gesetzten Schwelle, einen Nachweis jeder Zahlung und Schienen für x402, AP2-Mandate sowie ACP- und UCP-Checkout.

Wie Agenten-Governance aussieht · die Agentenebene, Zeile für Zeile

Lassen Sie Claude Code genau dort, wo es ist.

Ihre Entwickler behalten den providereigenen Pfad — Claude Code auf Ihrem Anthropic-Plan, Codex, Gemini CLI. Sie setzen eine Base-URL und einen Header mit ihrem Wäg-Key, und Wäg authentifiziert den Aufrufer, rechnet die Ausgaben gegen das Teambudget und schreibt das Request-Log. Sie haben keinen blinden Fleck mehr genau dort, wo Ihre teuersten Nutzer arbeiten.

  • Native Endpunkte und native SDKs, sodass jedes Werkzeug sich so verhält, wie seine eigene Dokumentation es beschreibt.
  • Mit dem Wäg-Key-Header greifen Identität, Budgets und Request-Logs gegen dieselbe Hierarchie wie jeder andere Aufruf. Ohne ihn werden Aufrufe dennoch weitergeleitet und gemessen, aber kein Wäg-Budget greift.
  • Mit Enterprise laufen Ihre Guardrail-Ketten auch auf diesem Verkehr — dieselben Scanner, die Sie bereits konfiguriert haben, auf dem einen Pfad, der sonst ungeprüft bliebe.

Klar gesagt, denn es steht ohnehin in unserer Dokumentation: Im Open-Source-Build fließt Pass-through-Verkehr ungeprüft und sagt das in einem Response-Header. Enterprise schließt diese Lücke.

Drei Wege hinein

Wählen Sie den, der auf Sie zutrifft. Keiner kostet etwas.

90 Tage

Evaluationslizenz

Für alle, ohne Rückfragen

Alle Enterprise-Funktionen, 90 Tage lang, mit einem Lizenzschlüssel, den wir noch am selben Tag ausstellen. Dreimal so lang wie die üblichen 30 Tage Enterprise-Test in dieser Kategorie. Keine Karte, kein Telefonat, keine automatische Verlängerung am Ende.

12 Monate

Switch-Programm

Sie haben einen laufenden LiteLLM-Enterprise-Vertrag

Verlagern Sie Ihre Last auf Wäg, und Ihre ersten zwölf Monate sind ohne Lizenzkosten, Produktivbetrieb eingeschlossen. Wir machen die Migration gemeinsam mit Ihnen, inklusive Konfigurationsimport. Nennen Sie uns Ihren Verlängerungstermin, wir richten uns danach.

12 Monate

Founding Design Partner

Eine kleine, von uns ausgewählte Gruppe

Alles oben Genannte, dazu eine direkte Leitung zu den Entwicklern von Wäg und echten Einfluss darauf, was als Nächstes kommt. Dafür erwarten wir eine produktive Last und einen festen Feedback-Rhythmus. Begrenzte Plätze, und wir sagen auch ab.

Was der Wechsel wirklich bedeutet

Sie behalten Ihr SDK, Ihre Modell-Aliase und Ihren Anwendungscode. Eine Basis-URL ändert sich. Ihre LiteLLM-config.yaml wird importiert, und wir sagen Ihnen genau, was dabei nicht übernommen wurde, statt es stillschweigend wegzulassen.

Die Migration, Schritt für Schritt · Worin sich Wäg und LiteLLM tatsächlich unterscheiden

Neunzig Tage, Beginn wann immer Sie wollen

Mit Open Source starten

Betreiben Sie es in Ihrer eigenen Infrastruktur

Alles, was Sie brauchen, um eine Control Plane produktiv zu betreiben, steht unter Apache-2.0 und bleibt es auch — Routing, HA, Caching, Failover, Budgets, Policy, MCP, Jobs und Observability. Self-hosted, ohne Account, ohne Phone-Home.

$ docker run -p 4000:4000 <registry>/waeg-gateway:<version>

Kein funktionierender Pull: Die Images sind noch nicht öffentlich. Designpartner erhalten die Registry-Details vertraulich.

In 5 Minuten deployen
Designpartnerschaft

Als Design-Partner mitgestalten

Wäg ist noch nicht öffentlich verfügbar. Wir arbeiten mit einer kleinen Gruppe von Teams, die Multi-Provider-KI produktiv betreiben und Governance und Souveränität ernst nehmen, um die Control Plane an echten Workloads zu härten.

  • Jede Enterprise-Funktion enthalten, ohne Lizenzkosten
  • Migration gemeinsam mit uns — auch von LiteLLM
  • Direkter Draht zu den Engineers und realer Einfluss darauf, was als Nächstes kommt
Zum Programm bewerben