Seyrek otokodlayıcılar: ağdaki özellikleri görünür kılmak

Kısaca: Seyrek otokodlayıcı (SAE), bir dil modelinin iç etkinleştirmelerini birçok tekil, daha anlaşılır özelliğe ayırır. Bu, modelin hangi kavramları “düşündüğünü” gösterir.

Sorun

Ağdaki tek bir nöron nadiren tek bir kavramı temsil eder…

Ayrıca bak: Güvenlik, hizalama ve jailbreak’ler