Jede Modalität, eine Steuerungsebene
Chat, Embeddings, Vision, Audio, Dokumenten-OCR, Rerank, asynchrone Video-Jobs und Realtime-Sessions — über vier Request-Lebenszyklen. Weil Modalität und Lebenszyklus im IR erstklassig sind, gilt Policy für alle gleichermaßen.
"Synchron, echtes SSE-Streaming, absturzsichere asynchrone Jobs, Echtzeit-Sitzungen — eine Steuerungsebene für alle."
Synchron
Der klassische Request/Response-Pfad — ein Aufruf hinein, eine Completion heraus, mit inline angewandter Policy.
Echtes SSE-Streaming
stream: true nutzt echte Server-Sent Events über LiveStream-Adapter — kein vollständiger Upstream-Puffer auf dem Happy Path.
Absturzsichere asynchrone Jobs
Dauerhafte geleaste Worker für lange Arbeit wie Video und Batches: Einreihen → Übernehmen → Heartbeat → Abschließen, mit einem Reaper für abgelaufene Leases.
Echtzeit-Sitzungen
Eine WebSocket-Brücke für Echtzeit, sodass Live-Sprache und Streaming-Interaktionen dieselbe Auth, Budgets und Protokollierung wie alles andere teilen.
Jede Modalität
Chat, Embeddings, Bildgenerierung/-bearbeitung, Audio TTS/STT und Rerank — Modalität ist ein erstklassiges Konzept, nicht Vision als base64-Nachgedanke angeschraubt.
Dokumenten-OCR
PDFs, Scans und Bilder werden Seite für Seite zu Markdown, in der Request- und Response-Form von Mistral OCR. Abrechnung pro Seite, Guardrails laufen auf jeder Seite und schreiben ihre Maskierungen zurück, und das Payload-Log fasst das Dokument zusammen, statt es zu speichern.
Eine Steuerungsebene
Alle vier Lebenszyklen und jede Operation teilen dieselbe Inference-IR — Routing, Caching, Budgets und Guardrails gelten durchgängig konsistent.
Schritt für Schritt
- 01
Sprechen Sie jedes Format
Clients senden Anfragen im OpenAI-, Anthropic- oder Gemini-Stil — Chat, Vision, Audio, Embeddings — oder die native IR direkt.
- 02
Auf die IR abbilden
Die Fassade bildet die Anfrage auf ein einziges Inference-Request-Modell ab, das Modalität, Operation und Lebenszyklus als erstklassige Felder erfasst.
- 03
Den Lebenszyklus wählen
Synchron antwortet inline, Streaming öffnet einen SSE-Kanal, lange Jobs werden zu dauerhaften Workern eingereiht, und Echtzeit öffnet eine WebSocket-Brücke.
- 04
Policy einheitlich anwenden
Routing, Caching, Budgets und Guardrails laufen unabhängig von Modalität oder Lebenszyklus gleich — keine Sonderfälle, über die man nachdenken muss.
# Video generation is always a job
POST /v1/videos
→ { "id": "job_9f2", "status": "queued" }
# Durable worker: claim → heartbeat → complete
# Survives restarts; a reaper reclaims dead leases
GET /v1/videos/job_9f2
→ { "status": "running" }Multimodal & Lebenszyklen ist eine von sechs Kontrollflächen, die im selben Anfrageweg durchgesetzt werden und für jede Anwendung hinter dem Endpunkt gelten — auch für die, die nie instrumentiert wurden.
Sehen, wie sie zusammenwirkenEin Endpunkt. Jedes Modell. Volle Kontrolle.
Betreiben Sie es in Ihrer eigenen Infrastruktur
Alles, was Sie brauchen, um eine Control Plane produktiv zu betreiben, steht unter Apache-2.0 und bleibt es auch — Routing, HA, Caching, Failover, Budgets, Policy, MCP, Jobs und Observability. Self-hosted, ohne Account, ohne Phone-Home.
$ docker run -p 4000:4000 <registry>/waeg-gateway:<version>Kein funktionierender Pull: Die Images sind noch nicht öffentlich. Designpartner erhalten die Registry-Details vertraulich.
In 5 Minuten deployenAls Design-Partner mitgestalten
Wäg ist noch nicht öffentlich verfügbar. Wir arbeiten mit einer kleinen Gruppe von Teams, die Multi-Provider-KI produktiv betreiben und Governance und Souveränität ernst nehmen, um die Control Plane an echten Workloads zu härten.
- Jede Enterprise-Funktion enthalten, ohne Lizenzkosten
- Migration gemeinsam mit uns — auch von LiteLLM
- Direkter Draht zu den Engineers und realer Einfluss darauf, was als Nächstes kommt