Run This Ai
EN DE

Lemonade

Führe optimierte LLMs lokal auf deiner eigenen GPU oder NPU aus – ein schneller, OpenAI-kompatibler Server für private KI-Anwendungen.

★ 5,385 GitHub Apache-2.0 local-aillmgpunpuonnxopenai-apiprivacy LLM & Chat

Überblick

Lemonade hilft dir dabei, lokale KI-Apps zu entdecken und auszuführen, indem optimierte LLMs direkt von deiner eigenen GPU oder NPU bereitgestellt werden. Es ist ein leichtgewichtiger, OpenAI-kompatibler lokaler Server, der deine Daten schützt und gleichzeitig eine schnelle Inferenz auf Consumer-Hardware ermöglicht. Basierend auf ONNX Runtime mit Vulkan-, ROCm- und NPU-Beschleunigung unterstützt er Modelle wie Llama, Mistral und Qwen ohne Cloud-Abhängigkeiten.

Anforderungen

Min vCPU
2
Min RAM
4096 MB
Min Disk
10 GB
Rec vCPU
4
Rec RAM
8192 MB
Rec Disk
20 GB

Empfohlener VPS

Hostinger · KVM 4

4 vCPU · 16384 MB · 200 GB

$11.99
Zum Anbieter

Hostinger · KVM 4

4 vCPU · 16384 MB · 200 GB

$11.99
Zum Anbieter

Hostinger · KVM 8

8 vCPU · 32256 MB · 400 GB

$20.00
Zum Anbieter

Affiliate-Hinweis

Docker Compose

# Generated by Run This Ai — docker-compose.yml
services:
  lemonade:
    image: ghcr.io/lemonade-sdk/lemonade:latest
    restart: unless-stopped
    ports:
      - 8080:8080
    volumes:
      - ./data/lemonade:/data

Bester VPS für Lemonade →

Verwandte Tools

Anleitungen & Artikel