Detail práce

Improving Robustness of Neural Networks against Adversarial Examples

Bakalářská práce Student: Gaňo Martin Akademický rok: 2019/2020 Vedoucí: Češka Milan, doc. RNDr., Ph.D.
Název česky
Improving Robustness of Neural Networks against Adversarial Examples
Jazyk práce
anglický
Abstrakt

Tato práce pojednává o kontradiktorních útocích na klasifikační modely neuronových sítí. Naším cílem je shrnout a demonstrovat kontradiktorní metody a ukázat, že představují vážný problém v strojovém učení. Důležitým přínosem této práce je implementace nástroje pro trénink robustního modelu na základě kontradiktorních příkladů. Náš přístup spočívá v minimalizaci maximalizace chybové funkce cílového modelu. Související práce a naše vlastní experimenty nás vedou k použití Projektovaného gradientního sestupu jako cílového útoku, proto trénujeme proti datům generovaným Projektovaným gradientním sestupem. Výsledkem použití nástroje je, že můžeme dosáhnout přesnosti více než 90% proti sofistikovaným nepřátelským útokům.

Klíčová slova

Neuronové sítě, Optimalizace, Strojové učení, Kontradiktorní útok, Kontradiktorní vzorek, Robustnost, Kontradiktorní strojové učení

Ústav
Ústav inteligentních systémů FIT VUT v Brně
Studijní program
Informační technologie
Soubory
Stav
obhájeno, hodnocení B
Obhajoba
13. července 2020
Oponent
Matyáš Jiří, Ing.
Průběh obhajoby

Student nejprve prezentoval výsledky, kterých dosáhl v rámci své práce. Komise se poté seznámila s hodnocením vedoucího a posudkem oponenta práce. Student následně odpověděl na otázky oponenta a na další otázky přítomných. Komise se na základě posudku oponenta, hodnocení vedoucího, přednesené prezentace a odpovědí studenta na položené otázky rozhodla práci hodnotit stupněm B.

Otázky u obhajoby
  1. Jaké struktury (hloubky a použité vrstvy) neuronových sítí byly použity v rámci experimentů - vlastní navržené nebo dostupné z literatury? 
  2. Jak by se změnila robustnost vůči útokům, pokud by byly použity sítě s více či méně vrstvami?
  3. Jak generujete Adversarial Examples? Jak dlouho generování trvá?
  4. Kolik procent času zabere generování?
Komise
Zbořil František, doc. Ing., Ph.D. (UITS FIT VUT), předseda
Grégr Matěj, Ing., Ph.D. (UIFS FIT VUT), člen
Hradiš Michal, Ing., Ph.D. (UPGM FIT VUT), člen
Kekely Lukáš, Ing., Ph.D. (UPSY FIT VUT), člen
Rogalewicz Adam, doc. Mgr., Ph.D. (UITS FIT VUT), člen
Citace
GAŇO, Martin. Improving Robustness of Neural Networks against Adversarial Examples. Brno, 2020. Bakalářská práce. Vysoké učení technické v Brně, Fakulta informačních technologií. 2020-07-13. Vedoucí práce Češka Milan. Dostupné z: https://www.fit.vut.cz/study/thesis/22999/
BibTeX 
@bachelorsthesis{FITBT22999,
    author = "Martin Ga\v{n}o",
    type = "Bakal\'{a}\v{r}sk\'{a} pr\'{a}ce",
    title = "Improving Robustness of Neural Networks against Adversarial Examples",
    school = "Vysok\'{e} u\v{c}en\'{i} technick\'{e} v Brn\v{e}, Fakulta informa\v{c}n\'{i}ch technologi\'{i}",
    year = 2020,
    location = "Brno, CZ",
    language = "english",
    url = "https://www.fit.vut.cz/study/thesis/22999/"
}

Závěrečné práce

Nahoru