EMZETT.Kurz erklärt
Die Temperatur steuert, wie zufällig ein Sprachmodell das nächste Token wählt. Niedrig ist vorhersehbar, hoch ist kreativer und riskanter.
Genauer
Das Modell berechnet für jedes mögliche Token eine Wahrscheinlichkeit. Bei Temperatur 0 wird immer das wahrscheinlichste gewählt. Höhere Werte flachen die Verteilung ab. Top-p und Top-k beschränken die Auswahl auf die wahrscheinlichsten Kandidaten.