Glossar

1620 Begriffe aus IT, Netzwerk, Sicherheit und Programmierung: erst kurz erklärt, dann ausführlicher. Suche nach einem Wort oder wähle einen Buchstaben.

1 Treffer

Zahlenformate: FP32, FP16, BF16 und FP8 KI rechnet mit Gleitkommazahlen in verschiedener Genauigkeit. Weniger Bits sparen Speicher und Rechenzeit, bringen aber Rundungsfehler.
FP32 (32 Bit) ist die klassische Genauigkeit. FP16 und BF16 (16 Bit) sind Standard für Training und Betrieb. BF16 hat den Wertebereich von FP32 mit geringerer Genauigkeit und ist stabiler beim Training. FP8 (8 Bit) nutzen neuere Karten (Hopper, Ada, Blackwell) für noch mehr Tempo.
Verwandt: Quantisierung · NPU und KI-Beschleuniger · Prefill und Decode
Ganzer Artikel im Wiki →

← Emzett Lernen

Glossar

1620 Begriffe aus IT, Netzwerk, Sicherheit und Programmierung: erst kurz erklärt, dann ausführlicher. Suche nach einem Wort oder wähle einen Buchstaben.

1 Treffer

Zahlenformate: FP32, FP16, BF16 und FP8 KI rechnet mit Gleitkommazahlen in verschiedener Genauigkeit. Weniger Bits sparen Speicher und Rechenzeit, bringen aber Rundungsfehler.
FP32 (32 Bit) ist die klassische Genauigkeit. FP16 und BF16 (16 Bit) sind Standard für Training und Betrieb. BF16 hat den Wertebereich von FP32 mit geringerer Genauigkeit und ist stabiler beim Training. FP8 (8 Bit) nutzen neuere Karten (Hopper, Ada, Blackwell) für noch mehr Tempo.
Verwandt: Quantisierung · NPU und KI-Beschleuniger · Prefill und Decode
Ganzer Artikel im Wiki →