Объяснимый ИИ: SHAP и LIME

Коротко: Объяснимый ИИ (XAI) хочет показать, почему модель пришла к предсказанию. SHAP и LIME — два распространённых метода, которые для отдельных предсказаний указывают, какие признаки повлияли и насколько сильно.

LIME

LIME (Local Interpretable Model-agnostic Explanations) слегка изменяет вход вокруг предсказания и простой читаемой моделью приближает локальное поведение.

См. также: смещение, справедливость и качество данных