Градиентный спуск и обучение на данных

Коротко: В машинном обучении модель шаг за шагом подстраивает свои параметры так, чтобы мера ошибки (потери) уменьшалась. Градиентный спуск следует направлению наискорейшего спуска.

Подробнее: Модель делает предсказания, функция потерь измеряет отклонение от правильных значений. Градиент показывает, как меняются потери при малых изменениях каждого параметра. Параметры сдвигают небольшим шагом (скорость обучения) против градиента. Это повторяют тысячи раз.

Подробности

• Правило обновления: w ← w − η · ∂L/∂w (η = скорость обуч…

См. также: нейронные сети и обратное распространение, переобучение и компромисс смещения и дисперсии