Todas las funciones
Multimodal y ciclos de vida

Cada modalidad, un único plano de control

Chat, embeddings, visión, audio, OCR de documentos, rerank, trabajos de vídeo asíncronos y sesiones en tiempo real, en cuatro ciclos de vida de petición. Como la modalidad y el ciclo de vida son de primera clase en el IR, la política se aplica igual a todos.

"Síncrono, verdadero streaming SSE, trabajos asíncronos resistentes a caídas, sesiones en tiempo real — un único plano de control para todos."

Síncrono

La clásica ruta solicitud/respuesta — una llamada de entrada, una completación de salida, con toda la política aplicada en línea.

Verdadero streaming SSE

stream: true usa verdaderos server-sent events mediante los adaptadores LiveStream — sin búfer upstream completo en la ruta feliz.

Trabajos asíncronos resistentes a caídas

Workers arrendados duraderos para trabajos largos como vídeo y lotes: encolar → reclamar → heartbeat → completar, con un reaper para los arriendos caducados.

Sesiones en tiempo real

Un puente WebSocket para el tiempo real, de modo que la voz en vivo y las interacciones en streaming compartan la misma auth, presupuestos y registro que todo lo demás.

Cada modalidad

Chat, embeddings, generación/edición de imágenes, audio TTS/STT y rerank — la modalidad es un concepto de primera clase, no la visión añadida como una ocurrencia en base64.

OCR de documentos

Los PDF, escaneos e imágenes se convierten en Markdown, página a página, en la forma de petición y respuesta de Mistral OCR. Cobro por página, las barreras se ejecutan en cada página y reescriben allí sus máscaras, y el registro de payload resume el documento en lugar de almacenarlo.

Un único plano de control

Los cuatro ciclos de vida y cada operación comparten la misma IR de inferencia — enrutamiento, caché, presupuestos y guardrails se aplican de forma coherente.

Multimodal y ciclos de vida
Trabajos asíncronos resistentes a caídas para tareas de larga duración, seguidos en la consola.

Paso a paso

  1. 01

    Habla cualquier formato

    Los clientes envían solicitudes al estilo OpenAI, Anthropic o Gemini — chat, visión, audio, embeddings — o la IR nativa directamente.

  2. 02

    Mapear a la IR

    La fachada mapea la solicitud a un único modelo de solicitud de inferencia que captura modalidad, operación y ciclo de vida como campos de primera clase.

  3. 03

    Elegir el ciclo de vida

    El síncrono responde en línea, el streaming abre un canal SSE, los trabajos largos se encolan a workers duraderos, y el tiempo real abre un puente WebSocket.

  4. 04

    Aplicar la política uniformemente

    Enrutamiento, caché, presupuestos y guardrails se ejecutan igual sin importar la modalidad o el ciclo de vida — sin casos especiales que razonar.

async job · video generation
# Video generation is always a job
POST /v1/videos
  → { "id": "job_9f2", "status": "queued" }

# Durable worker: claim → heartbeat → complete
# Survives restarts; a reaper reclaims dead leases
GET /v1/videos/job_9f2
  → { "status": "running" }
Parte del control plane

Multimodal y ciclos de vida es una de las seis superficies de control que se aplican en la misma ruta de petición, para todas las aplicaciones situadas detrás del endpoint — incluidas las que nunca se instrumentaron.

Vea cómo se combinan

Un endpoint. Cada modelo. Control total.

Empiece por el open source

Ejecútelo en su propia infraestructura

Todo lo necesario para operar un control plane en producción es Apache-2.0 y seguirá siéndolo: enrutamiento, alta disponibilidad, caché, failover, presupuestos, políticas, MCP, trabajos y observabilidad. Self-hosted, sin cuenta, sin phone-home.

$ docker run -p 4000:4000 <registry>/waeg-gateway:<version>

No es un pull que funcione: las imágenes aún no son públicas. Los socios de diseño reciben los datos del registro en privado.

Despliega en 5 minutos
Alianza de diseño

Contribuya a definirlo como design partner

Wäg todavía no se ha publicado. Trabajamos con un grupo reducido de equipos que ejecutan IA multiproveedor en producción y se toman en serio la gobernanza y la soberanía, para endurecer el control plane con cargas de trabajo reales.

  • Todas las capacidades Enterprise incluidas, sin coste de licencia
  • Migración acompañada: la hacemos con usted, también desde LiteLLM
  • Línea directa con los ingenieros que lo construyen e influencia real sobre lo que llega después
Solicitar entrada al programa