EMZETT.
Увійти

Розріджені автоенкодери: робимо ознаки в мережі видимими

Коротко: Розріджений автоенкодер (SAE) розкладає внутрішні активації мовної моделі на безліч окремих, зрозуміліших ознак. Це показує, про які поняття модель «думає».

Проблема

Окремий нейрон у мережі рідко відповідає одному поняттю…

Див. також: безпека, вирівнювання та джейлбрейки