Vizualizace konvolučních neuronových sítí

Anna Švejdová

Master's thesis

Visualization of Convolutional Neural Networks

Anotácia:

Konvoluční neuronové sítě (CNN) jsou stále častěji používané pro klasifikaci obrazu i v rizikových aplikačních oblastech. Úspěšnost těchto modelů vychází mimo jiné z jejich komplexity, která je však zároveň činí netransparentními. Tato práce se proto věnuje vizualizaci konvolučních neuronových sítí a využívá ji pro jejich interpretaci. Navrhuje kritéria pro hodnocení vizualizací CNN, které vysvětlují klasifikaci konkrétních instancí. Tato kritéria vycházejí z vytvoření třídních prototypů metodou maximálně aktivace. Zároveň aplikuje metody Grad-CAM a SHAP na model Inception v3, tyto metody srovnává a nachází mezi nimi významné rozdíly. Tyto rozdíly mají za důsledek i to, že zatímco navržená kritéria pro hodnocení vizualizací za pomoci třídních protypů jsou dobře použitelná pro Grad-CAM, pro SHAP se nehodí. Nalezené rozdíly mezi aplikovanými metodami představují zajímavý problém pro další výzkum.

Abstract:

Convolutional neural networks (CNNs) are increasingly being used in hight risc scenarios. The high accuracy of these models arises from their complexity which also causes them to be less transparent. This thesis focuses on interpretation of CNNs through visualization. It proposes criteria for evaluating visualizations which aim at explaining classifacation of single instances. The criteria originates in class prototype creation derived from the maximal activation method. Grad-CAM and SHAP are being applied to Inception v3 model and compared. I conclude that there are significant differences between them. Furthemore, the means that the proposed criteria of class prototypes based evaluation is suitable for GRAD-CAM but not applicable to SHAP. The observed differences constitute an interesting problem for future research.

Kľúčové slová

interpretabilita, vizualizace, konvoluční neuronové sítě, klasifikace obrazu, počítačové vidění

Keywords

Convolutional Neural Networks, Visualization, Image Classification, Interpretability, Computer Vision

Jazyk práce: Czech

Datum vytvoření / odevzdání či podání práce: 6. 12. 2021

Obhajoba závěrečné práce

• Obhajoba proběhla 24. 1. 2022
• Vedúci: David Chudán
• Oponent: Ondřej Vadinský

Vysoká škola ekonomická v Praze

Master programme / odbor:
Aplikovaná informatika / Znalostní a webové technologie