Interpretace konvolučních neuronových sítí
Loading...
Date
Authors
ORCID
Advisor
Referee
Mark
E
Journal Title
Journal ISSN
Volume Title
Publisher
Vysoké učení technické v Brně. Fakulta informačních technologií
Abstract
Cílem práce bylo porovnání několika metod pro vizualizaci příznaků jednotlivé třídy na vstupní pixelové vrstvě CNN. Každá metoda využívá jiný algoritmus, založený na gradientech, pro výpočet výsledných hodnot. Pomocí implementace jednotlivých metod jsou získány výsledné hodnoty metod, které jsou pomocí rovnice koncentrace energie porovnány. Výsledné hodnoty jsou uvedeny v tabulkách a grafech z kterých lze vyčíst úspěšnost výsledku práce. Z práce lze vyčíst rozdíl mezi metodami a porovnání jejich výsledků. Díky tomu lze získat přehled o metodách vizualizace založených na gradientech.
The aim of this work was to compare several methods for visualizing the features of each class on the input pixel layer of the CNN. Each method uses a different algorithm, based on gradients, to compute the resulting values. Using the implementation of each method, the resultant values of the methods are obtained by using the equation of energy concentration. The resultant values are presented in tables and graphs from which the success rate of the result of the work can be read. The difference between the methods and comparison of their results can be read from the work. This makes it possible to get an overview of gradient based visualization methods.
The aim of this work was to compare several methods for visualizing the features of each class on the input pixel layer of the CNN. Each method uses a different algorithm, based on gradients, to compute the resulting values. Using the implementation of each method, the resultant values of the methods are obtained by using the equation of energy concentration. The resultant values are presented in tables and graphs from which the success rate of the result of the work can be read. The difference between the methods and comparison of their results can be read from the work. This makes it possible to get an overview of gradient based visualization methods.
Description
Citation
KAMENICKÝ, D. Interpretace konvolučních neuronových sítí [online]. Brno: Vysoké učení technické v Brně. Fakulta informačních technologií. 2021.
Document type
Document version
Date of access to the full text
Language of document
cs
Study field
Informační technologie
Comittee
doc. Ing. Martin Čadík, Ph.D. (předseda)
doc. Ing. Jiří Jaroš, Ph.D. (místopředseda)
Ing. David Bařina, Ph.D. (člen)
doc. Ing. Radek Burget, Ph.D. (člen)
doc. RNDr. Milan Češka, Ph.D. (člen)
Date of acceptance
2021-06-14
Defence
Student nejprve prezentoval výsledky, kterých dosáhl v rámci své práce. Komise se poté seznámila s hodnocením vedoucího a posudkem oponenta práce. Student následně odpověděl na otázky oponenta a na další otázky přítomných. Komise se na základě posudku oponenta, hodnocení vedoucího, přednesené prezentace a odpovědí studenta na položené otázky rozhodla práci hodnotit stupněm E. Otázky u obhajoby: Jak Vaše "vizualizace" pomáhají pochopení neuronové sítě? Na kterou část řešení jste hrdý - že prokazuje Vaši schopnost samostatně odborně pracovat? Rovnicemi (5.3), (5.1), (5.2) hodnotíte, jestli se síť "kouká" pouze na sám objekt a považujete to zřejmě za žádoucí. Někdy je ale správné, že se síť "dívá" na kontext a okolí (například shluk pixelů vprostřed silnice bude interpretován jinak, než stejný shluk pixelů uprostřed rozkvetlé louky). V takovém případě bude Vaše metrika možná zavádějící. Je v tomto světle Vaše metrika ta jediná správná? Jak jinak hodnotit užitečnost technik pro vizualizaci neuronových sítí?
Result of defence
práce byla úspěšně obhájena
Document licence
Standardní licenční smlouva - přístup k plnému textu bez omezení