vLLM Omni System Requirements (CPU, RAM, Disk)
Systemanforderungen für vLLM Omni: CPU, RAM und Speicherplatz.
vLLM Omni erweitert die vLLM-Inferenzengine auf Omni-Modalitäts-Modelle und ermöglicht die effiziente Bereitstellung von Text-, Bild- und Audio-Generierungs- sowie Diffusionsmodellen mit einheitlichen Schnittstellen, hohem Durchsatz und geringer Latenz.
Anforderungen · vLLM Omni
Min vCPU
2
Min RAM
4,096 MB
Min Disk
10 GB
Empf. vCPU
4
Empf. RAM
8,192 MB
Empf. Disk
20 GB
Siehe die detaillierte Werkzeugseite: vLLM Omni →