EMZETT.
Увійти

Градієнтний спуск і навчання на даних

Коротко: У машинному навчанні модель крок за кроком підлаштовує свої параметри так, щоб міра помилки (втрати) зменшувалася. Градієнтний спуск іде за напрямком найшвидшого спуску.

Докладніше: Модель робить передбачення, функція втрат вимірює відхилення від правильних значень. Градієнт показує, як змінюються втрати за малих змін кожного параметра. Параметри зсувають невеликим кроком (швидкість навчання) проти градієнта. Це повторюють тисячі разів.

Подробиці

  • Правило оновлення: w ← w − η · ∂L/∂w (η = швидкість навч…

Див. також: нейронні мережі та зворотне поширення, перенавчання та компроміс зміщення й дисперсії