Run This Ai
EN DE

Envoy AI Gateway

Einheitliches Access-Gateway für generative KI-Dienste, basierend auf Envoy Gateway (CNCF). Steuern, überwachen und regulieren Sie LLM-Datenverkehr mit Richtlinienkontrollen auf Enterprise-Niveau.

★ 1,976 GitHub Apache-2.0 ai-gatewayapi-gatewaycncfkubernetesllm LLM & Chat

Überblick

Envoy AI Gateway ist ein Open-Source-Gateway unter der Schirmherrschaft der CNCF, das Ihnen einen einheitlichen Zugriff auf generative KI-Dienste bietet. Basierend auf dem Envoy Gateway ermöglicht es Ihnen, Anfragen über eine einzige konsistente Schnittstelle an jeden beliebigen LLM-Anbieter zu leiten – sei es OpenAI, Anthropic, AWS Bedrock oder selbst gehostete Modelle. Es bietet Unternehmensfunktionen wie tokenbasiertes Rate Limiting, Kostenkontrolle, Observability und zentrales Richtlinienmanagement, während gleichzeitig eine Vendor-Lock-in-Bindung vollständig vermieden wird. Setzen Sie es auf Kubernetes ein oder führen Sie es eigenständig in Docker aus, um Ihren gesamten KI-Datenverkehr zentral zu verwalten, abzusichern und zu überwachen.

Anforderungen

Min vCPU
2
Min RAM
2048 MB
Min Disk
10 GB
Rec vCPU
4
Rec RAM
4096 MB
Rec Disk
20 GB

Empfohlener VPS

Hostinger · KVM 4

4 vCPU · 16384 MB · 200 GB

$11.99
Zum Anbieter

Hostinger · KVM 4

4 vCPU · 16384 MB · 200 GB

$11.99
Zum Anbieter

Hostinger · KVM 8

8 vCPU · 32256 MB · 400 GB

$20.00
Zum Anbieter

Affiliate-Hinweis

Docker Compose

# Generated by Run This Ai — docker-compose.yml
services:
  envoy-ai-gateway:
    image: envoyproxy/ai-gateway-cli:latest
    restart: unless-stopped
    ports:
      - 8080:8080
    volumes:
      - ./data/envoy-ai-gateway:/data

Bester VPS für Envoy AI Gateway →

Verwandte Tools

NextChat

Cross-platform ChatGPT web UI with multi-model support for Ollama, Claude, Gemini, and more

Lobe Chat

Extensible, open-source ChatGPT alternative with plugins, knowledge base, and multi-LLM support

Open WebUI

User-friendly WebUI for LLMs (Ollama, OpenAI API)

text-generation-webui

Run local LLMs with a powerful web interface — text, vision, tool-calling, and OpenAI-compatible API

Streamlit

Build and share data apps in pure Python — fast

Gradio

Build and share delightful machine learning apps in Python

Anleitungen & Artikel

Envoy AI Gateway Tutorial: Route Your First LLM Request in Docker

Step-by-step tutorial to run Envoy AI Gateway with Docker, route requests to any LLM provider through a single gateway, and add token-based rate limiting — with a hands-on review.

Aug 30, 2026

Envoy AI Gateway: Unified Access to Generative AI Services

An open-source, CNCF-hosted gateway built on Envoy Gateway that routes, observes, and governs traffic to any LLM provider — OpenAI, Anthropic, Bedrock, or self-hosted models — through one consistent interface.

Aug 30, 2026