Elke modaliteit, één controlevlak
Chat, embeddings, vision, audio, document-OCR, rerank, asynchrone videojobs en realtime-sessies — over vier verzoeklevenscycli. Omdat modaliteit en levenscyclus eersteklas zijn in de IR, geldt beleid voor alle op dezelfde manier.
"Synchroon, echte SSE-streaming, crashbestendige asynchrone jobs, realtime-sessies — één controlevlak voor allemaal."
Synchroon
Het klassieke request/response-pad — één aanroep erin, één completion eruit, met al het beleid inline toegepast.
Echte SSE-streaming
stream: true gebruikt echte server-sent events via de LiveStream-adapters — geen volledige upstream-buffer op het happy path.
Crashbestendige asynchrone jobs
Duurzame geleaste workers voor lang werk zoals video en batches: in de wachtrij → claimen → heartbeat → voltooien, met een reaper voor verlopen leases.
Realtime-sessies
Een WebSocket-brug voor realtime, zodat live spraak en streaming-interacties dezelfde auth, budgetten en logging delen als al het andere.
Elke modaliteit
Chat, embeddings, afbeeldingsgeneratie/-bewerking, audio TTS/STT en rerank — modaliteit is een eersteklas concept, geen vision als base64-bijgedachte aangeschroefd.
Document-OCR
PDF's, scans en afbeeldingen worden Markdown, pagina voor pagina, in de verzoek- en antwoordvorm van Mistral OCR. Afgerekend per pagina, guardrails draaien op elke pagina en schrijven daar hun maskers terug, en het payloadlog vat het document samen in plaats van het op te slaan.
Eén controlevlak
Alle vier de levenscycli en elke operatie delen dezelfde inference-IR — routing, caching, budgetten en guardrails gelden consistent.
Stap voor stap
- 01
Spreek elk formaat
Clients sturen verzoeken in OpenAI-, Anthropic- of Gemini-stijl — chat, vision, audio, embeddings — of de native IR rechtstreeks.
- 02
Op de IR afbeelden
De façade beeldt het verzoek af op één inference-request-model dat modaliteit, operatie en levenscyclus als eersteklas velden vastlegt.
- 03
De levenscyclus kiezen
Synchroon antwoordt inline, streaming opent een SSE-kanaal, lange jobs komen in de wachtrij bij duurzame workers, en realtime opent een WebSocket-brug.
- 04
Beleid uniform toepassen
Routing, caching, budgetten en guardrails draaien op dezelfde manier ongeacht modaliteit of levenscyclus — geen speciale gevallen om over na te denken.
# Video generation is always a job
POST /v1/videos
→ { "id": "job_9f2", "status": "queued" }
# Durable worker: claim → heartbeat → complete
# Survives restarts; a reaper reclaims dead leases
GET /v1/videos/job_9f2
→ { "status": "running" }Multimodaal & levenscycli is een van zes controlevlakken die in hetzelfde request-pad worden afgedwongen en gelden voor elke applicatie achter het endpoint — ook voor de applicaties die nooit zijn geïnstrumenteerd.
Bekijk hoe ze samenwerkenÉén endpoint. Elk model. Volledige controle.
Draai het in uw eigen infrastructuur
Alles wat u nodig hebt om een control plane in productie te draaien staat onder Apache-2.0 en blijft dat ook — routing, HA, caching, failover, budgetten, policy, MCP, jobs en observability. Self-hosted, zonder account, zonder phone-home.
$ docker run -p 4000:4000 <registry>/waeg-gateway:<version>Geen werkende pull: de images zijn nog niet openbaar. Ontwerppartners krijgen de registrygegevens vertrouwelijk.
Implementeer in 5 minutenBepaal mee als design partner
Wäg is nog niet publiek beschikbaar. We werken met een kleine groep teams die multi-provider AI in productie draaien en governance en soevereiniteit serieus nemen, om de control plane te harden op echte workloads.
- Alle Enterprise-functies inbegrepen, zonder licentiekosten
- Migratie die we samen met u doen — ook vanaf LiteLLM
- Een directe lijn naar de engineers die het bouwen, en echte invloed op wat er als volgende komt