Detail práce
Interpretace konvolučních neuronových sítí
Cílem práce bylo porovnání několika metod pro vizualizaci příznaků jednotlivé třídy na vstupní pixelové vrstvě CNN. Každá metoda využívá jiný algoritmus, založený na gradientech, pro výpočet výsledných hodnot. Pomocí implementace jednotlivých metod jsou získány výsledné hodnoty metod, které jsou pomocí rovnice koncentrace energie porovnány. Výsledné hodnoty jsou uvedeny v tabulkách a grafech z kterých lze vyčíst úspěšnost výsledku práce. Z práce lze vyčíst rozdíl mezi metodami a porovnání jejich výsledků. Díky tomu lze získat přehled o metodách vizualizace založených na gradientech.
CNN, NN, MLP, gradient, preceptron, sigmoid, bias, práh, váhy, hook
Student nejprve prezentoval výsledky, kterých dosáhl v rámci své práce. Komise se poté seznámila s hodnocením vedoucího a posudkem oponenta práce. Student následně odpověděl na otázky oponenta a na další otázky přítomných. Komise se na základě posudku oponenta, hodnocení vedoucího, přednesené prezentace a odpovědí studenta na položené otázky rozhodla práci hodnotit stupněm E.
- Jak Vaše "vizualizace" pomáhají pochopení neuronové sítě?
- Na kterou část řešení jste hrdý - že prokazuje Vaši schopnost samostatně odborně pracovat?
- Rovnicemi (5.3), (5.1), (5.2) hodnotíte, jestli se síť "kouká" pouze na sám objekt a považujete to zřejmě za žádoucí. Někdy je ale správné, že se síť "dívá" na kontext a okolí (například shluk pixelů vprostřed silnice bude interpretován jinak, než stejný shluk pixelů uprostřed rozkvetlé louky). V takovém případě bude Vaše metrika možná zavádějící. Je v tomto světle Vaše metrika ta jediná správná? Jak jinak hodnotit užitečnost technik pro vizualizaci neuronových sítí?
Bařina David, Ing., Ph.D. (UPGM FIT VUT), člen
Burget Radek, doc. Ing., Ph.D. (UIFS FIT VUT), člen
Češka Milan, doc. RNDr., Ph.D. (UITS FIT VUT), člen
Jaroš Jiří, doc. Ing., Ph.D. (UPSY FIT VUT), člen
@bachelorsthesis{FITBT23910, author = "Daniel Kamenick\'{y}", type = "Bakal\'{a}\v{r}sk\'{a} pr\'{a}ce", title = "Interpretace konvolu\v{c}n\'{i}ch neuronov\'{y}ch s\'{i}t\'{i}", school = "Vysok\'{e} u\v{c}en\'{i} technick\'{e} v Brn\v{e}, Fakulta informa\v{c}n\'{i}ch technologi\'{i}", year = 2021, location = "Brno, CZ", language = "czech", url = "https://www.fit.vut.cz/study/thesis/23910/" }