Пояснюваний ШІ: SHAP і LIME

Коротко: Пояснюваний ШІ (XAI) хоче показати, чому модель дійшла до передбачення. SHAP і LIME — два поширені методи, які для окремих передбачень вказують, які ознаки вплинули і наскільки сильно.

LIME

LIME (Local Interpretable Model-agnostic Explanations) трохи змінює вхід навколо передбачення й простою читабельною моделлю наближає локальну поведінку.

Див. також: зміщення, справедливість і якість даних