Token-uitgaven zijn een regel die u beheert
Gestapelde uitgaven- en snelheidslimieten over org, team, gebruiker, applicatie, model en key — met eerlijk-aandeel-limieten, soft-budgetwaarschuwingen en FinOps-dashboards. Elk verzoek wordt tegen elke overeenkomende teller gecontroleerd, en de eerste overtreding wordt geweigerd.
"Gestapelde uitgaven- en snelheidslimieten over org → team → gebruiker → app → model → key — de eerste overtreding wordt geweigerd."
Gestapelde hiërarchie
Uitgaven- en snelheidslimieten over org → team → gebruiker → applicatie → model → key. Elk verzoek wordt tegen alle overeenkomende tellers gecontroleerd, en de eerste overtreding wijst het af.
Eerlijk-aandeel-limieten
Subgroeplimieten zoals dollars per team, per gebruiker en per applicatie waarborgen een eerlijk aandeel, zodat één team nooit de hele org-pool kan opmaken.
Virtuele keys
Token- en dollarbudgetten per key, per team en per gebruiker, RPM-limieten en model-allowlists — met eigenaartypes gebruiker of service voor een schone toewijzing.
Soft-budgetten & waarschuwingen
Waarschuw bij een percentagedrempel via een webhook voordat harde limieten verkeer beginnen af te wijzen. Zie de muur aankomen voordat u ertegenaan botst.
FinOps-dashboards
Uitgaven per tenant, model, provider en key. Een importeerbaar prijzenboek (offline pakket of catalogus-sync) en historische herberekening van uitgaven.
Chargeback-tags
Wijs kosten toe aan het team, product of kostenplaats dat ze veroorzaakte — token-uitgaven worden een W&V-regel die u daadwerkelijk kunt beheren.
Stap voor stap
- 01
De tellers definiëren
Stel dollar- en tokenbudgetten en RPM-limieten in op elk niveau van de hiërarchie — org, team, gebruiker, applicatie, model of individuele virtuele key.
- 02
Bij elk verzoek controleren
Elke aanroep wordt geëvalueerd tegen elke teller die erop van toepassing is. De eerste teller die zou worden overschreden, wijst het verzoek af. Is Redis onbereikbaar, dan laten uitgaventellers verzoeken door, tenzij de clustermodus is ingesteld.
- 03
Waarschuwen, dan afdwingen
Soft-budgetdrempels sturen webhook-waarschuwingen terwijl het gebruik stijgt; harde limieten wijzen verkeer af zodra het plafond is bereikt.
- 04
Rapporteren & doorbelasten
Uitgaven worden geaggregeerd in dashboards per tenant, model, provider en key, getagd voor chargeback en afstembaar tegen een prijzenboek.
budgets:
- { id: org-pool, scope: org, budget_usd: 50000, budget_period: monthly,
per_team_usd: 8000, per_application_usd: 5000 }
- { id: payments, scope: team, team_id: payments, per_user_usd: 500 }
alerts:
soft_budget_pct: 0.8 # warn before the hard limitBudgetten & governance is een van zes controlevlakken die in hetzelfde request-pad worden afgedwongen en gelden voor elke applicatie achter het endpoint — ook voor de applicaties die nooit zijn geïnstrumenteerd.
Bekijk hoe ze samenwerkenÉén endpoint. Elk model. Volledige controle.
Draai het in uw eigen infrastructuur
Alles wat u nodig hebt om een control plane in productie te draaien staat onder Apache-2.0 en blijft dat ook — routing, HA, caching, failover, budgetten, policy, MCP, jobs en observability. Self-hosted, zonder account, zonder phone-home.
$ docker run -p 4000:4000 <registry>/waeg-gateway:<version>Geen werkende pull: de images zijn nog niet openbaar. Ontwerppartners krijgen de registrygegevens vertrouwelijk.
Implementeer in 5 minutenBepaal mee als design partner
Wäg is nog niet publiek beschikbaar. We werken met een kleine groep teams die multi-provider AI in productie draaien en governance en soevereiniteit serieus nemen, om de control plane te harden op echte workloads.
- Alle Enterprise-functies inbegrepen, zonder licentiekosten
- Migratie die we samen met u doen — ook vanaf LiteLLM
- Een directe lijn naar de engineers die het bouwen, en echte invloed op wat er als volgende komt