Run This Ai
EN DE

Manifest

Der Open-Source-LLM-Router, der Ihre KI-Agenten in Sekundenschnelle mit jedem Anbieter verbindet. Abonnements, Pay-per-Token, lokale Modelle und benutzerdefinierte Anbieter.

★ 7,243 GitHub MIT llm-routergatewayopenai-compatiblecost-trackingmodel-routingself-hostingai-agents LLM & Chat

Überblick

Manifest ist ein Open-Source-Modell-Router für KI-Agenten und Anwendungen. Er bietet einen einzigen, OpenAI-kompatiblen Endpunkt, der eine Verbindung zu mehreren LLM-Anbietern herstellt, einschließlich API-Schlüsseln, Abonnements, lokalen Modellen und benutzerdefinierten Anbietern. Jede Anfrage wird basierend auf Komplexität, Spezifität und benutzerdefinierten HTTP-Headern automatisch an das am besten geeignete Modell weitergeleitet. Zu den Hauptfunktionen gehören intelligentes Routing basierend auf Anforderungskomplexität und Modellkapazität, Kostenverfolgung über alle Anbieter hinweg mit Benachrichtigungen und Ausgabenlimits, automatischer Fallback auf alternative Modelle bei Fehlern sowie die Unterstützung für die Kombination von API-Schlüsseln, Abonnements und lokalen Modellen über eine einheitliche Schnittstelle. Manifest wird als Docker-Image geliefert und ermöglicht ein einfaches Self-Hosting mit einem einzigen Befehl. Mit über 7.200 GitHub-Sternen und einer MIT-Lizenz ist Manifest ideal für KI-Entwickler und Teams, die die Abhängigkeit von einzelnen Anbietern reduzieren, LLM-Kosten optimieren und die Ausfallsicherheit ihrer KI-Agenten-Pipelines erhöhen möchten. Das Web-UI bietet volle Transparenz über Routing-Entscheidungen, Nutzungsmuster und Ausgaben bei allen angebundenen Anbietern.

Anforderungen

Min vCPU
1
Min RAM
1024 MB
Min Disk
10 GB
Rec vCPU
2
Rec RAM
2048 MB
Rec Disk
20 GB

Empfohlener VPS

Hostinger · KVM 2

2 vCPU · 8192 MB · 100 GB

$6.99
Zum Anbieter

Hostinger · KVM 2

2 vCPU · 8192 MB · 100 GB

$6.99
Zum Anbieter

Hostinger · KVM 4

4 vCPU · 16384 MB · 200 GB

$11.99
Zum Anbieter

Affiliate-Hinweis

Docker Compose

# Generated by Run This Ai — docker-compose.yml
services:
  manifest:
    image: manifestdotbuild/manifest:latest
    restart: unless-stopped
    ports:
      - 8080:8080
    volumes:
      - ./data/manifest:/data

Bester VPS für Manifest →

Verwandte Tools

Anleitungen & Artikel