Başlatma, normalleştirme ve dropout

Kısaca: Üç yardımcı derin eğitimi kararlı kılar: ağırlıkların akıllı başlangıç değerleri (başlatma), ara değerlerin normalleştirilmesi ve ezberlemeye karşı dropout.

Biraz daha ayrıntılı: Bunlar olmadan derin ağların eğitimi çoğu kez patlayan ya da kaybolan değerler yüzünden başarısız olur.

Ayrıntılı

• Başlatma: tüm ağırlıklar sıfır olmasın…

Ayrıca bak: Aşırı uyum ve yanlılık-varyans dengesi, Nöronlar, katmanlar ve etkinleştirme işlevleri