Rechenleistung, die Ihnen gehört
Ungenutzte Macs, Desktops und Workstations arbeiten lassen, statt GPUs zu mieten oder pro Token zu zahlen.
Plattform-Details
Vorhandene Macs, Workstations und Server werden zu einem privaten KI-Compute-Grid.
Inferenzaufträge laufen über eine API oder ein Webformular. Sie wählen ein exaktes Modell, eine Modellfamilie oder einen beliebigen verfügbaren Worker und erhalten Ergebnisse per Webhook oder Abfrage. Jobs lassen sich für Nutzungsauswertung und Kostenzuordnung taggen, Kontingente pro Team oder Workload festlegen. Auf der Worker-Seite bindet die kostenlose Mac-App LLM Grid Worker jeden Rechner mit Ollama an das Grid an – mit demselben Konto und API-Schlüssel. Sie schreibt weder Prompts noch Ergebnisse auf die Festplatte und pausiert auf Wunsch im Akkubetrieb, bei Überhitzung oder außerhalb der Arbeitszeiten. Jede weitere Maschine erhöht die Kapazität, und die Inferenz bleibt auf Hardware in Ihrem eigenen Netzwerk.
Ihre Daten, Ihr Netzwerk
Die Inferenz läuft auf Maschinen, die Sie kontrollieren. Prompts, Ergebnisse und Modelle bleiben in Ihrem Netzwerk.
Skalieren mit mehr Workern
Mehr Durchsatz durch weitere Maschinen. Ein Konto und ein API-Schlüssel gelten für alle Worker.
