Yorumlanabilirlik: ağın içinde ne olur?

Kısaca: Sinir ağları “kara kutulardır”: sayıları görürsünüz ama bir yanıta neden vardıklarını hemen anlamazsınız. Yorumlanabilirlik araştırması içini anlaşılır kılmaya çalışır.

Biraz daha ayrıntılı: İki yön vardır: tek tek tahminler için açıklamalar (neden bu karar?) ve iç mekanizmaların anlaşılması (ağ ne hesaplıyor?).