Ініціалізація, нормалізація та dropout

Коротко: Три допоміжні прийоми роблять глибоке навчання стійким: розумні початкові значення ваг (ініціалізація), нормалізація проміжних значень і dropout проти завчання.

Докладніше: Без них навчання глибоких мереж часто зривається через значення, що вибухають або зникають.