Wie viele Tokens pro Minute schafft dein Setup? Aus Hunderten Grafikkarten, Prozessoren, Macs und Modellen auswählen, Tempo berechnen und das optimale Modell finden, mit Grafiken. Die Listen wachsen automatisch.
Dein Setup erzeugt mit Qwen3 32B · Q4_K_M · 8K Kontext
Zum ErgebnisRyzen 9 7950X 16 Kerne · 2× DDR5 · ~1.280 GFLOPS
Bandbreite: 96 GB/s
Qwen3 32B · Qwen · 33B · 128K Kontext · 2025 · Index 68qwen · medium · dense · 33b · chat · reasoning · apache · multilingual
Index = grobe Qualitäts-Einordnung (0–100), keine Messung.
Etwa 1.625 Wörter pro Minute, das sind 3,2 Buchseiten pro Minute und 6,5× so schnell, wie ein Mensch liest (250 Wörter/Min).
Gewichte 19,7 GB + KV-Cache 2,1 GB = 21,8 GB
Das ist das Modell mit der höchsten Qualität (nach Format-Abzug), das auf deinem Setup noch mindestens 10 Tokens/s schafft und komplett im schnellen Speicher liegt.
Für Qwen3 32B (Q4_K_M, 8K Kontext): kleinste Anzahl gleicher Karten bzw. Komplettsysteme, auf denen es passt, nach Tempo sortiert.
Wird nur in deinem Browser gespeichert und sofort in den Listen angezeigt. Optional kannst du sie für alle vorschlagen (nur angemeldet).
Pro erzeugtem Token muss die Hardware fast alle aktiven Gewichte einmal aus dem Speicher lesen. Darum gilt: Tokens/s ≈ Speicherbandbreite × Wirkungsgrad ÷ gelesene Gigabyte. Mixture-of-Experts-Modelle lesen nur ihre aktiven Experten. Passt das Modell nicht in den Grafikspeicher, laufen Schichten aus dem viel langsameren Arbeitsspeicher. Bei vielen Anfragen gleichzeitig oder beim Einlesen des Prompts bremst stattdessen die Rechenleistung.
Alle Werte sind Schätzungen aus Herstellerangaben und typischen Wirkungsgraden. Echte Ergebnisse hängen von Software (llama.cpp, vLLM, MLX …), Treiber, Kühlung und Kontext ab und können um 30 % abweichen. Der Qualitäts-Index ist eine grobe Einordnung, kein Benchmark.
Datenbestand: 192 Karten und Beschleuniger, 157 Prozessoren, 46 Komplettsysteme, 261 Modelle. Davon 31 Modelle automatisch von Hugging Face ergänzt (letzter Abgleich: 12.10.2026).