Прямий і зворотний прохід докладно

Коротко: За прямого проходу дані пошарово проходять крізь мережу й дають передбачення. За зворотного проходу правило ланцюжка обчислює, як кожна вага вплинула на помилку.

Докладніше: Зворотний прохід (зворотне поширення) ефективний, бо повторно використовує проміжні результати прямого проходу. Фреймворки на кшталт PyTorch роблять це автоматично («autograd»).