Регуляризация и ранняя остановка: сдерживание переобучения

Коротко: Регуляризация штрафует слишком сложные модели, а ранняя остановка завершает обучение до того, как модель заучит обучающие данные; оба приёма улучшают качество на новых данных.

Подробнее: Модель с очень многими параметрами может почти идеально воспроизвести обучающие данные и выучить заодно шум. На новых данных она работает хуже (переобучение).