TTool-Spotlight[04_03]
WASTE: Ein großes Modell läuft auf einem Notebook mit 64 GB Arbeitsspeicher
Die quelloffene Laufzeitumgebung betreibt Modelle, deren Gewichte größer sind als der Arbeitsspeicher des Rechners. Damit verschiebt sich die Frage, wo ein Modell überhaupt laufen kann.
Audio (Premium)
3. Aug. 2026·3 Min. Lesezeit
Die Hardwarehürde fällt — die Frage nach Wartung und Betreuung bleibt.
Auf einen Blick
- WASTE betreibt Modelle, die größer sind als der Arbeitsspeicher des Rechners
- Erstes vollständig unterstütztes Modell ist Kimi K3, auf einem MacBook Pro mit 64 GB
- Die Umgebung ist quelloffen und zielt auf Kontrolle über Kosten, Daten und Verfügbarkeit
Das solltest du tun
- 1Eine Aufgabe, die an der Datenlage scheitert, im Versuchsaufbau messen
- 2Hardware, Strom, Einrichtung und Betreuung in die Rechnung aufnehmen
Warum das für dich zählt
IT-Leitung: Die Hardwarehürde für große Modelle fällt — Wartung und Bereitschaft bleiben eure Aufgabe.
IT-Sicherheit: Läuft das Modell im eigenen Haus, verlassen die Daten für diese Aufgabe das Haus nicht.
Datenschutz: Der Betriebsort wird zur eigenen Entscheidung statt zur Vorgabe des Anbieters.
Innovation: Vorhaben, die an der Datenlage scheiterten, lassen sich damit erstmals erproben.