Ансамблевые методы: бэггинг, бустинг и стэкинг

Коротко: Ансамбли объединяют множество простых моделей в сильную. Это сглаживает ошибки: множество слегка различающихся мнений вместе часто лучше одного.

Бэггинг

Многие модели обучают независимо, каждую на случайной…

См. также: функции потерь, классификация и регрессия