Поиск гиперпараметров и байесовская оптимизация

Коротко: Гиперпараметры — настройки, задаваемые до обучения (скорость обучения, глубина дерева, число слоёв). Поиск хороших значений требует много вычислений, поэтому существуют умные методы.