Теорема Байеса: как правильно «перевернуть» вероятности

Коротко: Теорема Байеса связывает две условные вероятности и позволяет из «насколько вероятен результат теста, если человек болен?» вычислить «насколько вероятно, что человек болен, если тест положительный?».

Подробнее: Формула: P(A | B) = P(B | A) · P(A) / P(B). P(A) — априорная вероятность (prior), P(A | B) — обновлённая (posterior).

Подробности

• Классический пример: Болезнью поражён 1 из 1000 человек. Тест выявляет больных на 99 % и ошибочно даёт положительный результат у 5 % здоровых. Из 1000 человек 1 болен (почти наверняка положительный) и около 50 здоровых получают положительный результат. Лишь около 2 % получивших положительный результат действительно больны.
• Урок: При редких событиях даже хорошие тесты часто в основном ложноположительны. Базовая частота (насколько вообще распространено явление?) решающая и часто упускается.
• Естественные частоты: С абсолютными числами («из 1000 человек …») считать проще, чем с процентами.
• Спам-фильтр: Наивный байесовский фильтр оценивает по словам, насколько вероятно, что письмо — спам.
• Байесовское обновление: Новые свидетельства сдвигают оценку шаг за шагом. При низкой базовой частоте нужны сильные свидетельства.
• Применения: Медицинские тесты, диагностические системы, фильтры, слияние данных датчиков, байесовская оптимизация (поиск гиперпараметров).

См. также: основы теории вероятностей