Glossar

1620 Begriffe aus IT, Netzwerk, Sicherheit und Programmierung: erst kurz erklärt, dann ausführlicher. Suche nach einem Wort oder wähle einen Buchstaben.

8 Treffer

Gigabyte Ein Gigabyte (GB) sind 1 000 000 000 Bytes (10⁹). Es ist die dezimale Einheit, die Hersteller für Speichergrößen angeben.
Die SI-Vorsätze Kilo, Mega, Giga, Tera stehen für Potenzen von 1000. Ein Byte hat 8 Bit. Daneben gibt es die binäre Einheit Gibibyte (GiB) mit 2³⁰ Bytes. Beide werden im Alltag oft verwechselt.
Verwandt: Gibibyte · Bits · Bytes
Ganzer Artikel im Wiki →
Bytes Eine Gruppe von 8 Bits — die grundlegende Einheit, in der Speichergrößen und Dateigrößen angegeben werden (KB, MB, GB, TB).
Ein Byte kann 256 verschiedene Werte (0–255) darstellen, z. B. ein einzelnes ASCII-Zeichen. Bei größeren Einheiten gibt es zwei konkurrierende Systeme: dezimal (1 KB = 1.000 Byte, von Festplattenherstellern verwendet) und binär (1 KiB = 1.024 Byte, technisch exakt, von Betriebssystemen oft trotzdem als "KB" angezeigt) — Ursache vieler "fehlender" Gigabyte bei neuen Datenträgern.
Verwandt: Bits · Unicode · Bit-Tiefe · Gibibyte · Gigabyte · Code
Ganzer Artikel im Wiki →
Gibibyte Ein Gibibyte (GiB) sind 1 073 741 824 Bytes (2³⁰). Es ist die binäre Einheit, die zu Zweierpotenzen passt.
Computerspeicher ist von Natur aus in Zweierpotenzen aufgebaut. Deshalb hat die IEC eigene binäre Vorsätze festgelegt: Kibi (Ki), Mebi (Mi), Gibi (Gi), Tebi (Ti), jeweils Faktor 1024. So lässt sich klar zwischen Gigabyte (10⁹) und Gibibyte (2³⁰) unterscheiden.
Verwandt: Gigabyte · Bits · Bytes · RAM
Ganzer Artikel im Wiki →
HDDs "Hard Disk Drives" — klassische Festplatten, die Daten magnetisch auf rotierenden Metallscheiben speichern.
HDDs sind pro Gigabyte deutlich günstiger als SSDs, aber wegen der mechanischen Bauweise (rotierende Scheiben, beweglicher Lesekopf) langsamer, lauter und empfindlicher gegen Stöße. Sie werden heute vor allem für große, günstige Speicherkapazitäten (Backups, Archive) eingesetzt, während SSDs als Systemlaufwerk dominieren.
Verwandt: Festplatten · SSDs · Aufnahme · Computer · Desktop-PCs · Externe Festplatten
Ganzer Artikel im Wiki →
KV-Cache Der KV-Cache speichert die Zwischenergebnisse (Keys und Values) der bisherigen Tokens, damit das Modell sie nicht jedes Mal neu berechnen muss.
Der Cache wächst mit jedem Token. Bei langem Kontext kann er mehrere Gigabyte belegen und zusätzlich zum Modell in den Speicher passen müssen. Moderne Modelle mit „Grouped-Query Attention" verkleinern ihn deutlich.
Verwandt: Kontextfenster · VRAM und Modellgröße · Prefill und Decode · Transformer-Architektur
Ganzer Artikel im Wiki →
Speicherbandbreite Die Speicherbandbreite gibt an, wie viele Gigabyte pro Sekunde zwischen Speicher und Prozessor übertragen werden können.
Sie ist der entscheidende Wert für die Geschwindigkeit von Sprachmodellen. Grafikkarten haben hunderte bis tausende GB/s (GDDR6X, HBM), normaler Arbeitsspeicher im PC nur etwa 50 bis 100 GB/s. Apple-Chips mit Unified Memory liegen dazwischen (100 bis 800 GB/s).
Verwandt: Tokens pro Sekunde · Unified Memory (Apple Silicon) · VRAM und Modellgröße · Auslagern von Modellen (Offloading) · Multi-GPU und Tensor-Parallelismus · NPU und KI-Beschleuniger
Ganzer Artikel im Wiki →
Speichereinheiten: von Kilobyte bis Zettabyte Datenmengen werden in Vielfachen des Bytes angegeben: Kilobyte, Megabyte, Gigabyte, Terabyte, Petabyte, Exabyte, Zettabyte, Yottabyte. Jede Stufe ist das 1000-Fache (SI) oder 1024-Fache (binär) der vorigen.
Ein Byte sind 8 Bit und kann einen Buchstaben speichern. Alles Größere sind Vorsilben aus dem Internationalen Einheitensystem. Wichtig ist der Unterschied zwischen Dezimal (Vorsilbe 1000) und Binär (1024).
Verwandt: Bits · Einheiten und Umrechnung (SI, Byte, Temperatur) · byte
Ganzer Artikel im Wiki →
VRAM und Modellgröße VRAM ist der Speicher der Grafikkarte. Ein Sprachmodell läuft am schnellsten, wenn es komplett hineinpasst.
Der Speicherbedarf in Gigabyte ist ungefähr: Parameter (in Milliarden) × Bits pro Gewicht ÷ 8, dazu 10 bis 20 % für Kontext und Zwischenwerte. Ein 70-Milliarden-Modell braucht in 16 Bit 140 GB, in 4 Bit etwa 40 GB.
Verwandt: Auslagern von Modellen (Offloading) · KV-Cache · Multi-GPU und Tensor-Parallelismus · Quantisierung · Speicherbandbreite · Parameter (KI-Modell)
Ganzer Artikel im Wiki →

Glossar

1620 Begriffe aus IT, Netzwerk, Sicherheit und Programmierung: erst kurz erklärt, dann ausführlicher. Suche nach einem Wort oder wähle einen Buchstaben.

8 Treffer

Gigabyte Ein Gigabyte (GB) sind 1 000 000 000 Bytes (10⁹). Es ist die dezimale Einheit, die Hersteller für Speichergrößen angeben.

Die SI-Vorsätze Kilo, Mega, Giga, Tera stehen für Potenzen von 1000. Ein Byte hat 8 Bit. Daneben gibt es die binäre Einheit Gibibyte (GiB) mit 2³⁰ Bytes. Beide werden im Alltag oft verwechselt.

Verwandt: Gibibyte · Bits · Bytes

Ganzer Artikel im Wiki →

Bytes Eine Gruppe von 8 Bits — die grundlegende Einheit, in der Speichergrößen und Dateigrößen angegeben werden (KB, MB, GB, TB).

Ein Byte kann 256 verschiedene Werte (0–255) darstellen, z. B. ein einzelnes ASCII-Zeichen. Bei größeren Einheiten gibt es zwei konkurrierende Systeme: dezimal (1 KB = 1.000 Byte, von Festplattenherstellern verwendet) und binär (1 KiB = 1.024 Byte, technisch exakt, von Betriebssystemen oft trotzdem als "KB" angezeigt) — Ursache vieler "fehlender" Gigabyte bei neuen Datenträgern.

Verwandt: Bits · Unicode · Bit-Tiefe · Gibibyte · Gigabyte · Code

Ganzer Artikel im Wiki →

Gibibyte Ein Gibibyte (GiB) sind 1 073 741 824 Bytes (2³⁰). Es ist die binäre Einheit, die zu Zweierpotenzen passt.

Computerspeicher ist von Natur aus in Zweierpotenzen aufgebaut. Deshalb hat die IEC eigene binäre Vorsätze festgelegt: Kibi (Ki), Mebi (Mi), Gibi (Gi), Tebi (Ti), jeweils Faktor 1024. So lässt sich klar zwischen Gigabyte (10⁹) und Gibibyte (2³⁰) unterscheiden.

Verwandt: Gigabyte · Bits · Bytes · RAM

Ganzer Artikel im Wiki →

HDDs "Hard Disk Drives" — klassische Festplatten, die Daten magnetisch auf rotierenden Metallscheiben speichern.

HDDs sind pro Gigabyte deutlich günstiger als SSDs, aber wegen der mechanischen Bauweise (rotierende Scheiben, beweglicher Lesekopf) langsamer, lauter und empfindlicher gegen Stöße. Sie werden heute vor allem für große, günstige Speicherkapazitäten (Backups, Archive) eingesetzt, während SSDs als Systemlaufwerk dominieren.

Verwandt: Festplatten · SSDs · Aufnahme · Computer · Desktop-PCs · Externe Festplatten

Ganzer Artikel im Wiki →

KV-Cache Der KV-Cache speichert die Zwischenergebnisse (Keys und Values) der bisherigen Tokens, damit das Modell sie nicht jedes Mal neu berechnen muss.

Der Cache wächst mit jedem Token. Bei langem Kontext kann er mehrere Gigabyte belegen und zusätzlich zum Modell in den Speicher passen müssen. Moderne Modelle mit „Grouped-Query Attention" verkleinern ihn deutlich.

Verwandt: Kontextfenster · VRAM und Modellgröße · Prefill und Decode · Transformer-Architektur

Ganzer Artikel im Wiki →

Speicherbandbreite Die Speicherbandbreite gibt an, wie viele Gigabyte pro Sekunde zwischen Speicher und Prozessor übertragen werden können.

Sie ist der entscheidende Wert für die Geschwindigkeit von Sprachmodellen. Grafikkarten haben hunderte bis tausende GB/s (GDDR6X, HBM), normaler Arbeitsspeicher im PC nur etwa 50 bis 100 GB/s. Apple-Chips mit Unified Memory liegen dazwischen (100 bis 800 GB/s).

Verwandt: Tokens pro Sekunde · Unified Memory (Apple Silicon) · VRAM und Modellgröße · Auslagern von Modellen (Offloading) · Multi-GPU und Tensor-Parallelismus · NPU und KI-Beschleuniger

Ganzer Artikel im Wiki →

Speichereinheiten: von Kilobyte bis Zettabyte Datenmengen werden in Vielfachen des Bytes angegeben: Kilobyte, Megabyte, Gigabyte, Terabyte, Petabyte, Exabyte, Zettabyte, Yottabyte. Jede Stufe ist das 1000-Fache (SI) oder 1024-Fache (binär) der vorigen.

Ein Byte sind 8 Bit und kann einen Buchstaben speichern. Alles Größere sind Vorsilben aus dem Internationalen Einheitensystem. Wichtig ist der Unterschied zwischen Dezimal (Vorsilbe 1000) und Binär (1024).

Verwandt: Bits · Einheiten und Umrechnung (SI, Byte, Temperatur) · byte

Ganzer Artikel im Wiki →

VRAM und Modellgröße VRAM ist der Speicher der Grafikkarte. Ein Sprachmodell läuft am schnellsten, wenn es komplett hineinpasst.

Der Speicherbedarf in Gigabyte ist ungefähr: Parameter (in Milliarden) × Bits pro Gewicht ÷ 8, dazu 10 bis 20 % für Kontext und Zwischenwerte. Ein 70-Milliarden-Modell braucht in 16 Bit 140 GB, in 4 Bit etwa 40 GB.

Verwandt: Auslagern von Modellen (Offloading) · KV-Cache · Multi-GPU und Tensor-Parallelismus · Quantisierung · Speicherbandbreite · Parameter (KI-Modell)

Ganzer Artikel im Wiki →