Detail práce

Akcelerace neuronových sítí s využitím GPU

Diplomová práce Student: Šimíček Ondřej Akademický rok: 2014/2015 Vedoucí: Petrlík Jiří, Ing.
Název anglicky
The GPU Based Acceleration of Neural Networks
Jazyk práce
český
Abstrakt

Tato práce se zabývá využitím grafických čipů pro akceleraci neuronových sítí s učením typu backpropagation. Pro řešení tohoto problému byla zvolena technologie OpenCL umožňující využít grafické čipy různých výrobců. Hlavním cílem práce byla akcelerace časově náročného procesu učení sítí a procesu klasifikace. Zrychlení bylo docíleno trénováním velkého množství neuronových sítí současně. Získané zrychlení bylo využito pro nalezení vhodné topologie a nastavení neuronové sítě pro zadanou úlohu pomocí genetického algoritmu.

Klíčová slova 
Neuronová síť, trénování, klasifikace, OpenCL, GPGPU, GPU, genetický algoritmus
Ústav
Ústav počítačových systémů FIT VUT v Brně
Studijní program
Informační technologie, obor Bezpečnost informačních technologií
Soubory
Stav
obhájeno, hodnocení B
Obhajoba
24. června 2015
Oponent
Jaroš Jiří, doc. Ing., Ph.D.
Průběh obhajoby

Student nejprve prezentoval výsledky, kterých dosáhl v rámci své práce. Komise se poté seznámila s hodnocením vedoucího a posudkem oponenta práce. Student následně odpověděl na otázky oponenta a na další otázky přítomných. Komise se na základě posudku oponenta, hodnocení vedoucího, přednesené prezentace a odpovědí studenta na položené otázky rozhodla práci hodnotit stupněm "B"

Otázky u obhajoby
  1. V kapitole 5.2, obrázek 5.1 je popsán návrh algoritmu. Zde je ukázka sekvenčního zpracování několika balíků neuronových sítí. Nebylo by výhodnější využít několika GPU front a překrýt výpočet a zasílání dat?
  2. Jak se mění výkon, pokud počet neuronů ve skryté vrstvě není násobkem velikosti wavefront (32/64).
  3. Analyzoval jste využití zdrojů GPU pro různé velikosti sítí (počet registrů, velikost lokální paměti)?
  4. Analyzoval jste alespoň některé výkonnostní metriky (divergenci vláken, instruction replay, propustnosti pamětí, atd...)
  5. Jak jste řešil problém vyvážení zátěže, kdy každá work group dostane na vyhodnocení neuronovou sít jiné velikosti?
Komise
Vojnar Tomáš, prof. Ing., Ph.D. (UITS FIT VUT), předseda
Burget Radek, doc. Ing., Ph.D. (UIFS FIT VUT), člen
Drahanský Martin, prof. Ing., Dipl.-Ing., Ph.D. (UITS FIT VUT), člen
Hrubý Martin, Ing., Ph.D. (UITS FIT VUT), člen
Rozinajová Viera, doc. Ing., Ph.D. (FIIT STU), člen
Ryšavý Ondřej, doc. Ing., Ph.D. (UIFS FIT VUT), člen
Citace
ŠIMÍČEK, Ondřej. Akcelerace neuronových sítí s využitím GPU. Brno, 2015. Diplomová práce. Vysoké učení technické v Brně, Fakulta informačních technologií. 2015-06-24. Vedoucí práce Petrlík Jiří. Dostupné z: https://www.fit.vut.cz/study/thesis/16776/
BibTeX 
@mastersthesis{FITMT16776,
    author = "Ond\v{r}ej \v{S}im\'{i}\v{c}ek",
    type = "Diplomov\'{a} pr\'{a}ce",
    title = "Akcelerace neuronov\'{y}ch s\'{i}t\'{i} s vyu\v{z}it\'{i}m GPU",
    school = "Vysok\'{e} u\v{c}en\'{i} technick\'{e} v Brn\v{e}, Fakulta informa\v{c}n\'{i}ch technologi\'{i}",
    year = 2015,
    location = "Brno, CZ",
    language = "czech",
    url = "https://www.fit.vut.cz/study/thesis/16776/"
}

Závěrečné práce

Nahoru