Detail práce

Paralelní trénování hlubokých neuronových sítí

Diplomová práce Student: Šlampa Ondřej Akademický rok: 2016/2017 Vedoucí: Hradiš Michal, Ing., Ph.D.
Název anglicky
Parallel Deep Learning
Jazyk práce
český
Abstrakt

Cílem této práce je navrhnou způsob jak zhodnotit výhodnost použití paralelního trénování neuronových sítí.V této práci jsem provedl analýzu paralelního trénování se zaměřením na délku trénování.Vycházím ze sekvenční délky trénování a délky přenosu vah po síti.Výsledkem této práce je návrh vzorců, které slouží k odhadu zrychlení na více výpočetních jednotkách.Tyto vzorce je možné použít na zjištění ideálního počtu pracovních jednotek pro trénování.

Klíčová slova

Neuronové sítě, konvoluční neuronové sítě, trénování, soft computing, odhad délky výpočtu, distribuovaný výpočet, paralení výpočet, počítačové sítě, Tensorflow, Python.

Ústav
Studijní program
Informační technologie, obor Inteligentní systémy
Soubory
Stav
obhájeno, hodnocení D
Obhajoba
22. června 2017
Oponent
Průběh obhajoby

Student nejprve prezentoval výsledky, kterých dosáhl v rámci své práce. Komise se poté seznámila s hodnocením vedoucího a posudkem oponenta práce. Student následně odpověděl na otázky oponenta a na další otázky přítomných. Komise se na základě posudku oponenta, hodnocení vedoucího, přednesené prezentace a odpovědí studenta na položené otázky rozhodla práci hodnotit stupněm D.

Otázky u obhajoby
  1. Jaký vliv má na zrychlení velikost dávky? 
  2. Jaká je úspěšnost vašeho odhadu zrychlení?
Komise
Zbořil František V., doc. Ing., CSc. (UITS FIT VUT), předseda
Hrubý Martin, Ing., Ph.D. (UITS FIT VUT), člen
Janoušek Vladimír, doc. Ing., Ph.D. (UITS FIT VUT), člen
Jaroš Jiří, doc. Ing., Ph.D. (UPSY FIT VUT), člen
Matyska Luděk, prof. RNDr., CSc. (FI MUNI), člen
Peringer Petr, Dr. Ing. (UITS FIT VUT), člen
Citace
ŠLAMPA, Ondřej. Paralelní trénování hlubokých neuronových sítí. Brno, 2017. Diplomová práce. Vysoké učení technické v Brně, Fakulta informačních technologií. 2017-06-22. Vedoucí práce Hradiš Michal. Dostupné z: https://www.fit.vut.cz/study/thesis/19669/
BibTeX
@mastersthesis{FITMT19669,
    author = "Ond\v{r}ej \v{S}lampa",
    type = "Diplomov\'{a} pr\'{a}ce",
    title = "Paraleln\'{i} tr\'{e}nov\'{a}n\'{i} hlubok\'{y}ch neuronov\'{y}ch s\'{i}t\'{i}",
    school = "Vysok\'{e} u\v{c}en\'{i} technick\'{e} v Brn\v{e}, Fakulta informa\v{c}n\'{i}ch technologi\'{i}",
    year = 2017,
    location = "Brno, CZ",
    language = "czech",
    url = "https://www.fit.vut.cz/study/thesis/19669/"
}
Nahoru