Батч, епоха та швидкість навчання

Коротко: Батч — пачка прикладів, що використовується для одного кроку навчання. Епоха — один прохід по всіх навчальних даних. Швидкість навчання визначає розмір кроку.

Докладніше: Замість того щоб використовувати приклади один за одним або всі одразу, беруть міні-батчі. Це добре задіює відеокарти й згладжує градієнт.