Перенавчання та компроміс зміщення й дисперсії

Коротко: Перенавчена модель запам’ятовує навчальні дані й зазнає невдачі на нових. Надто проста модель навчається надто мало (недонавчання). Мета — баланс між ними.

Докладніше: Помилка моделі складається зі зміщення (систематичного спрощення), дисперсії (чутливості до конкретних навчальних даних) і шуму. Більше складності знижує зміщення, але підвищує дисперсію. Важлива продуктивність на небачених даних.