Softmax ve olasılıklar

Kısaca: Softmax, rastgele bir sayı listesini (logitler) hepsi pozitif ve toplamı 1 olan olasılıklara çevirir. Hemen her sınıflandırıcının ve dil modelinin son aşamasıdır.

Biraz daha ayrıntılı: Formül: softmax(zᵢ) = e^zᵢ / Σ e^zⱼ. Üstel işlev farkları büyüttüğü için büyük girdiler belirgin biçimde daha büyük pay alır.

Ayrıntılı

• Örnek: logitler (2,0; 1,0; 0,1) → e değerleri…

Ayrıca bak: Kayıp işlevleri: MSE ve çapraz entropi, Belirteç (yapay zekâ)