Переобучение и недообучение: когда модели заучивают
Коротко: При переобучении модель идеально знает обучающие данные, но проваливается на новых; недообучение означает, что она не усваивает даже обучающие данные.
Подробнее: Цель машинного обучения — обобщение: модель должна хорошо работать на данных, которых никогда не видела. Две типичные проблемы: она учит слишком мало (недообучение) или слишком много.
Подробности
Наглядный образ
Представьте, что вы готовитесь к экзамену…
См. также: батч, эпоха и скорость обучения, данные, признаки и метки, градиентный спуск