SilentSwarm evaluieren auf Ihren eigenen Rechnern
SilentSwarm betreibt offene Sprachmodelle über gewöhnliche Rechner hinweg und stimmt sie dort fein ab, sodass die Rechner gemeinsam ein Modell halten, das keiner allein halten könnte. Es ist in der Evaluierungsphase: Der Quellcode ist nicht öffentlich, und wir suchen Unternehmen, Einrichtungen und Einzelpersonen, die es erproben und uns sagen möchten, was sie dabei feststellen.
Was Evaluieren bedeutet
Sie betreiben SilentSwarm auf Rechnern Ihrer Wahl, mit einem Modell und einer Aufgabe, die für Sie zählen, und wir gehen die Einrichtung gemeinsam mit Ihnen durch. Danach sagen Sie uns, was sich bewährt hat und was nicht.
Was Sie bekommen
- Die Software auf Ihren eigenen Rechnern. Mit Ihrem eigenen Koordinator bleiben Ihre Prompts und Daten dort.
- Direkter Draht zu den Menschen, die es bauen. Fragen gehen an sie, nicht in eine Warteschlange.
- Zahlen von Ihrer Hardware. Wie schnell es auf Ihren Rechnern antwortet, gemessen wie unsere Benchmarks.
- Mitsprache beim nächsten Schritt. Was bei der Evaluierung auffällt, bestimmt mit, was wir bauen.
Was wir von Ihnen erbitten
- Ehrliche Rückmeldung. Was funktioniert hat, was nicht und was Sie für den echten Einsatz bräuchten.
- Eine Ansprechperson, die wir während der Evaluierung erreichen können.
- Eigene Rechner. Sagen Sie uns, was Sie haben, und wir sagen Ihnen ehrlich, ob es passt.
- Zuerst die Bedingungen. Wir vereinbaren die Bedingungen mit Ihnen, bevor Sie beginnen.
Für wen es passt
- Forschungsgruppen und Hochschulen mit Workstations oder GPUs, die sie schon besitzen.
- Städte und öffentliche Einrichtungen, deren Daten im eigenen Netz bleiben sollen.
- Unternehmen, die ein Modell brauchen, das größer ist, als eine ihrer GPUs halten kann, oder es im eigenen Haus betreiben wollen.
- Hersteller von Heizungen und Hardware, die sich für Wärme aus Rechenleistung interessieren.
- Einzelpersonen mit eigenen GPUs. Sie brauchen keine Organisation im Rücken.
Was es gibt - und was noch nicht
Wir benennen die Lücken lieber jetzt, als dass Sie sie selbst finden müssen.
Heute verfügbar
- Bereitstellung über eine OpenAI-kompatible API, auf einem Rechner oder mehreren.
- LoRA-Feinabstimmung über mehrere Rechner verteilt, mit Checkpoints und exportierten Modellen.
- Veröffentlichte Benchmarks mit Hardware und Methode, auf der Benchmark-Seite.
Noch nicht
- Zugesicherte Servicelevel. Rechnen Sie mit Ecken und Kanten, solange wir stabilisieren.
- Eine Sandbox. Der Worker läuft mit den Rechten dessen, der ihn installiert hat: Betreiben Sie ihn also auf einem Rechner, bei dem das für Sie in Ordnung ist. Die Seite zu Daten und Sicherheit nennt die Einzelheiten.
- Bezahlung für einen beigesteuerten Rechner. Der Beitrag wird gemessen, aber heute nicht in Geld vergütet.
Fragen vor der Bewerbung
- Ist der Quellcode öffentlich?
- Nein. SilentSwarm ist in der Evaluierungsphase, und der Quellcode ist nicht öffentlich. Eine Prüfung des Quellcodes unter NDA ist auf Anfrage möglich.
- Was kostet eine Evaluierung?
- Wir vereinbaren die Bedingungen vor dem Start mit jeder Bewerbung einzeln. Fragen Sie im Formular gern nach Ihrem Fall.
- Muss ich ein Unternehmen sein?
- Nein. Unternehmen, öffentliche Einrichtungen, Forschungsgruppen und Einzelpersonen können sich bewerben.
- Was passiert nach der Bewerbung?
- Wir lesen jede Bewerbung selbst und antworten per E-Mail. Möglicherweise können wir nicht mit allen gleichzeitig beginnen, und das sagen wir Ihnen dann auch.
Für die Evaluierung bewerben
Ein paar Zeilen genügen. Wir beantworten jede Nachricht selbst.
Wir verwenden Ihre Angaben nur, um Ihnen zu antworten - siehe Datenschutzerklärung.