Розріджені автоенкодери: робимо ознаки в мережі видимими
Коротко: Розріджений автоенкодер (SAE) розкладає внутрішні активації мовної моделі на безліч окремих, зрозуміліших ознак. Це показує, про які поняття модель «думає».
Проблема
Окремий нейрон у мережі рідко відповідає одному поняттю…
Див. також: безпека, вирівнювання та джейлбрейки