Регуляризація та рання зупинка: стримування перенавчання

Коротко: Регуляризація штрафує надто складні моделі, а рання зупинка завершує навчання до того, як модель завчить навчальні дані; обидва прийоми покращують якість на нових даних.

Докладніше: Модель із дуже багатьма параметрами може майже ідеально відтворити навчальні дані й вивчити заодно шум. На нових даних вона працює гірше (перенавчання).