Glossar

1620 Begriffe aus IT, Netzwerk, Sicherheit und Programmierung: erst kurz erklärt, dann ausführlicher. Suche nach einem Wort oder wähle einen Buchstaben.

1 Treffer

Kontextfenster Das Kontextfenster ist die Menge an Text (in Tokens), die ein Sprachmodell gleichzeitig berücksichtigen kann: Frage, bisheriger Verlauf, Dokumente und Antwort zusammen.
Ältere Modelle hatten 2.000 bis 8.000 Tokens, aktuelle 128.000 bis über eine Million. Je größer das Fenster, desto mehr Speicher braucht der KV-Cache, und desto langsamer wird jedes neue Token.
Verwandt: KV-Cache · RAG (Retrieval-Augmented Generation) · Token (KI)
Ganzer Artikel im Wiki →

← Emzett Lernen

Glossar

1620 Begriffe aus IT, Netzwerk, Sicherheit und Programmierung: erst kurz erklärt, dann ausführlicher. Suche nach einem Wort oder wähle einen Buchstaben.

1 Treffer

Kontextfenster Das Kontextfenster ist die Menge an Text (in Tokens), die ein Sprachmodell gleichzeitig berücksichtigen kann: Frage, bisheriger Verlauf, Dokumente und Antwort zusammen.
Ältere Modelle hatten 2.000 bis 8.000 Tokens, aktuelle 128.000 bis über eine Million. Je größer das Fenster, desto mehr Speicher braucht der KV-Cache, und desto langsamer wird jedes neue Token.
Verwandt: KV-Cache · RAG (Retrieval-Augmented Generation) · Token (KI)
Ganzer Artikel im Wiki →