Atlama bağlantıları ve artık ağlar
Kısaca: Bir atlama bağlantısı (artık bağlantı) bir bloğun girdisini çıktısına ekler: y = x + f(x). Bu, gradyanların çok derin ağlardan engelsiz akmasını sağlar.
Biraz daha ayrıntılı: Yöntem ResNet’ten (2015) gelir ve 100’den fazla katmanlı görüntü ağlarının eğitilmesini mümkün kıldı. Her dönüştürücü bloğu aynı fikri kullanır.
Ayrıntılı
- Fikir: blok yalnızca farkı öğrenmek zorunda…
Ayrıca bak: İleri ve geri geçiş ayrıntılı, Dönüştürücü bloğu