AI power to the people.
Das nächste KI-Rechenzentrum sind wir alle. SilentSwarm verbindet Rechner, die es schon gibt, zu einem Schwarm, der offene Sprachmodelle ausführt, die für jeden einzelnen zu groß wären. Bring einen Rechner mit oder einfach eine Frage: Du bist so oder so dabei.
Du leitest ein Labor, ein Unternehmen oder eine Stadt? SilentSwarm für Labore und Unternehmen
Wer die Rechenleistung hat, entscheidet, wer KI nutzen kann
Die größten Sprachmodelle laufen dort, wo die größten GPUs stehen: in Rechenzentren, die sich nur wenige Unternehmen leisten können. Alle anderen mieten den Zugang, zu Preisen und Bedingungen, die jemand anderes festlegt.
- Rechenleistung liegt bei wenigen. Eine Karte, die ein großes Modell allein halten kann, ist für die meisten Menschen, Vereine und Schulen unerreichbar. Also fragen sie jemanden, der eine besitzt, und nehmen die Antwort hin.
- Leistungsfähige GPUs gibt es längst. In Wohnungen, Büros und Klassenzimmern stehen GPUs jeden Tag stundenlang still. Jede einzelne ist zu klein für ein großes Modell, also bleiben diese Stunden ungenutzt.
- Der Schwarm verbindet sie. SilentSwarm verteilt ein Modell auf diese Rechner. Zusammen schaffen sie, was keiner allein könnte, und die Macht bleibt bei den Menschen, denen sie gehören.
Eine Evolution, kein weiteres Rechenzentrum
Keine neue Halle und kein neuer Kühlturm. Der Schwarm wächst Rechner für Rechner, mit den Karten und Anschlüssen, die Menschen schon haben.
- Auch ältere Karten zählen. Unser Benchmark-Modell Qwen3-14B läuft auf vier älteren GPUs mit 4 und 6 GB. Keine davon könnte es allein halten.
- Jeder Rechner bekommt einen passenden Anteil. Unterschiedliche Karten sind willkommen: Jede hält so viel vom Modell, wie ihr Speicher zulässt.
- Internet von zu Hause reicht. Die Rechner reichen komprimierte Zwischenergebnisse weiter, keine ganzen Modelle, und sie verbinden sich nach außen. An deinem Router muss also kein Port geöffnet werden.
- Ein Pool kann dir gehören. Der Koordinator ist ein kleiner, dauerhaft laufender Rechner ohne GPU. Ein Verein, eine Schule oder ein Freundeskreis kann einen eigenen betreiben.
Was zwei PCs zu Hause heute schon leisten
Qwen3-14B in 4 Bit, aufgeteilt auf zwei gewöhnliche PCs an einem Internetanschluss zu Hause, mit zusammen vier älteren GPUs.
Eine gemietete GPU im Rechenzentrum ist schneller, und das hier sind kleine Stichproben auf alten Karten. Die Benchmark-Seite nennt Methode, Rohdaten und Grenzen - auch die Minute Wartezeit bis zum ersten Token bei einem Prompt mit 1.500 Tokens.
Drei Wege, dabei zu sein
Du musst keine GPU besitzen und niemanden um ein Rechenzentrum bitten.
Einen Rechner einbringen
Linux, eine NVIDIA-GPU und ein Befehl, ohne Administratorrechte. Der Rechner verbindet sich nach außen, arbeitet, solange du es zulässt, und hört auf, wenn du ihn stoppst. Jede beigetragene GPU-Stunde steht in deinem Profil.
Einfach nutzen
Keine GPU und keine Installation. Chatte im Browser mit den Modellen des Pools oder rufe sie über eine OpenAI-kompatible API auf. Kostenlos, solange der Pool in der Beta ist.
Einen eigenen Pool gründen
Für einen Verein, eine Schule oder einen Freundeskreis: dein Koordinator, deine Rechner und Prompts, die dort bleiben. Kostenlos für nichtkommerzielle Nutzung.
Wo der Schwarm heute steht
Noch klein, und genau hier fängt es an. Die Zahlen kommen vom Koordinator, der diese Seite ausliefert, und sind nicht von Hand eingetragen. Solange der Pool klein ist, bleiben die Rechnerzahlen verborgen, damit sie nie den Computer einer einzelnen Person beschreiben.
Lohnt sich das Mitmachen finanziell?
Noch nicht, und das sagen wir lieber offen, als etwas anderes anzudeuten. Heute läuft der Tausch in Naturalien: Dein Rechner hilft dem Pool, und der Pool antwortet dir. Den Rest bauen wir in dieser Reihenfolge.
- Heute: sehen, was du beigetragen hast. GPU-Stunden, ausgelieferte Tokens und beantwortete Anfragen werden dem Mitglied zugeordnet, das den Rechner eingebracht hat, und stehen in deinem Profil.
- Als Nächstes: Guthaben. Wer beiträgt, wird Guthaben erhalten, und wer den Pool nutzt, wird es ausgeben. Es wird sich nach der GPU-Zeit richten, in der ein Rechner nachweislich für andere gearbeitet hat, nie nach den Stunden, in denen er bloß eingeschaltet war.
- Später: ein veröffentlichter Satz. Was eine Stunde einer bestimmten Karte einbringen wird und was tausend Tokens kosten werden.
- Zuletzt: Auszahlungen. Echtes Geld über einen lizenzierten Zahlungsdienstleister, sobald Vertragspartner, Umsatzsteuer, Meldepflichten und die Behandlung bezahlten Hostings in der Lizenz geklärt sind.
Was es gibt - und was noch nicht
SilentSwarm ist eine offene Beta. „Für alle“ ist die Richtung, und diese Liste sagt, wie weit sie heute reicht.
Heute verfügbar
- Den Pool ohne GPU nutzen, im Browser und über eine API, während der Beta kostenlos.
- Beitreten mit einem Befehl, ohne Administratorrechte und ohne geöffneten Port.
- Dein Beitrag ist erfasst: GPU-Stunden, ausgelieferte Tokens und beantwortete Anfragen in deinem Profil.
- Eigene Pools, kostenlos für nichtkommerzielle Nutzung.
Noch nicht
- Sofortige Anmeldung. Während der Beta prüft und bestätigt ein Administrator jedes neue Konto.
- Windows und andere GPUs. Ein Rechner braucht heute Linux und eine NVIDIA-GPU; Windows ist ungetestet.
- Bezahlung für einen Rechner. Zuerst Guthaben, danach Auszahlungen.
- Eine Sandbox. Der Worker ist ein gewöhnlicher Prozess mit deinen Rechten. Lass ihn also auf einem Rechner laufen, auf dem das in Ordnung ist.
- Ein offener Markt unter Fremden. Dafür braucht es Sandboxing, Ausfallsicherheit und Verifikation, und wir behaupten ihn nicht, bevor es sie gibt.
- Schnelle lange Prompts auf alten Karten. Auf den Karten oben wartet ein langer Prompt etwa eine Minute, bis die Antwort beginnt.
Häufige Fragen
- Brauche ich eine GPU, um mitzumachen?
- Nein. Du kannst im Browser mit den Modellen des Pools chatten oder sie über eine API aufrufen, ganz ohne GPU und ohne Installation. Während der Beta ist die Nutzung kostenlos, und ein Administrator bestätigt neue Konten vorab.
- Was braucht ein Rechner, um beizutreten?
- Linux und eine NVIDIA-GPU. Der Beitritt ist ein Befehl im Terminal, installiert in ein Verzeichnis in deinem Home und braucht keine Administratorrechte. Windows ist bisher ungetestet.
- Wer sieht meine Prompts?
- Die Rechner in deinem Pool, die das gewählte Modell halten. Der Pool ist die Grenze: Seine Modelle laufen nur auf seinen eigenen Rechnern. In einem gemeinsamen Pool gehören diese Rechner anderen Mitgliedern, schick dorthin also nichts, was sie nicht sehen sollen. In einem eigenen Pool bleiben Prompts auf deinen Rechnern.
- Bekomme ich meinen Rechner zurück?
- Jederzeit. Stoppst du den Prozess, nimmt er keine Arbeit mehr an; entfernst du ihn, ist das Verzeichnis weg. Wöchentliche Verfügbarkeitsfenster legen fest, wann ein Rechner für andere offen ist.
- Verdiene ich mit meiner GPU Geld?
- Noch nicht. Heute siehst du, was dein Rechner beigetragen hat. Als Nächstes kommen Guthaben für die GPU-Zeit, in der er für andere gearbeitet hat, dann ein veröffentlichter Satz und zuletzt Auszahlungen in echtem Geld.
- Wie schnell ist das?
- Auf zwei PCs zu Hause mit vier älteren GPUs 3,3 Tokens pro Sekunde für eine Person und zusammen 11,6 für acht gleichzeitig. Eine gemietete GPU im Rechenzentrum ist schneller. Der Schwarm bietet dafür ein Modell, das keiner deiner Rechner halten könnte, auf Hardware, die es schon gibt.
- Ist es kostenlos, und wer darf es nutzen?
- Der Quellcode von SilentSwarm ist unter der PolyForm-Noncommercial-Lizenz einsehbar. Erlaubt ist jeder nichtkommerzielle Zweck, etwa persönliches Lernen, Hobbyprojekte und private Unterhaltung, ebenso die Nutzung durch gemeinnützige Organisationen, Bildungseinrichtungen, öffentliche Forschungseinrichtungen und staatliche Stellen. Für kommerzielle Nutzung braucht es eine Lizenz von NexPatch AI.
Du gründest einen Pool mit deiner Gruppe?
Ein Verein, eine Schule, ein Makerspace oder ein paar Freunde: Schreib uns, welche Rechner ihr habt und was ihr laufen lassen wollt. Gruppen, die früh starten, bekommen unsere Hilfe beim ersten Pool. Wir beantworten jede Nachricht selbst.
Wir verwenden deine Angaben nur, um dir zu antworten - siehe Datenschutzerklärung. Der Quellcode von SilentSwarm ist unter der PolyForm-Noncommercial-Lizenz einsehbar; für die kommerzielle Nutzung braucht es eine Lizenz von NexPatch AI - frag gern in derselben Nachricht danach.