Функции потерь: MSE и перекрёстная энтропия
Коротко: Функция потерь — число, измеряющее, насколько неверно предсказание модели. Обучение означает уменьшение этого числа.
Подробнее: Без измеримой цели нечего оптимизировать. Выбор функции потерь определяет, что модель понимает под «хорошо».
Подробности
- MSE (среднеквадратичная ошибка): `(1/n) Σ (y −…
См. также: softmax и вероятности, оптимизаторы: SGD, момент и Adam