Mesh LLM

Mesh LLM ist eine verteilte KI-Plattform, mit der Sie Rechenleistung privat oder öffentlich teilen können, um Ihre Agenten und Chat-Anwendungen zu betreiben. Geschrieben in Rust, bietet sie eine vollständige Web-Konsole zur Verwaltung eines Mesh-Netzwerks von Knoten, zum Ausführen von Open-Weight-LLMs, zum Routen von Anfragen über das Netzwerk und zur Zusammenarbeit mit anderen Instanzen über das öffentliche Mesh. Sie können es vollständig headless als API betreiben, Ihr eigenes privates Mesh selbst hosten oder dem öffentlichen Netzwerk beitreten, mit fein abgestufter Kontrolle darüber, was Sie teilen.