Detail práce

Zjednodušené násobení v konvolučních neuronových sítích

Diplomová práce Student: Juhaňák Pavel Akademický rok: 2018/2019 Vedoucí: Sekanina Lukáš, prof. Ing., Ph.D.
Název anglicky
Simplified Multiplication in Convolutional Neural Networks
Jazyk práce
český
Abstrakt

Tato práce se zaměřuje na problematiku klasických i konvolučních neuronových sítí. Jsou zde probrány konvenční techniky hardwarového násobení a možnosti jeho optimalizace v kontextu umělých neuronových sítí. Je navržena metoda zjednodušeného násobení, a to násobení bez násobičky. Tato metoda je implementována a integrována do knihovny TypeCNN. Poté je proveden odhad ceny hardwarového řešení jak konvenčního, tak zjednodušeného násobení. Představeny jsou dostupné nástroje pro práci s konvolučními neuronovými sítěmi a datové sady pro jejich testování v úloze klasifikace obrazů. Jsou navrženy testovací architektury a metodika testování a experimentů. Následně jsou zhodnoceny výsledky testů jak z pohledu úspěšnosti klasifikace, tak ceny hardwarového řešení.

Klíčová slova

umělá inteligence, soft computing, neuron, neuronové sítě, konvoluční neuronové sítě, násobení, optimalizace, zjednodušené násobení, násobení bez násobičky

Ústav
Ústav počítačových systémů FIT VUT v Brně
Studijní program
Informační technologie, obor Bezpečnost informačních technologií
Soubory
Stav
obhájeno, hodnocení C
Obhajoba
14. června 2019
Oponent
Jaroš Jiří, doc. Ing., Ph.D.
Průběh obhajoby

Student nejprve prezentoval výsledky, kterých dosáhl v rámci své práce. Komise se poté seznámila s hodnocením vedoucího a posudkem oponenta práce. Student následně odpověděl na otázky oponenta a na další otázky přítomných. Komise se na základě posudku oponenta, hodnocení vedoucího, přednesené prezentace a odpovědí studenta na položené otázky rozhodla práci hodnotit stupněm C.

Otázky u obhajoby
  1. Uvažoval jste možnosti implementace několika násobiček tohoto typu na jednom čipu?
  2. Myslíte si, že použití RAM pro tabulky je vhodné? Jaké latence paměti byste očekával? Jak byste řešil několikanásobné čtení z jednoho modulu v jednom taktu?
  3. Jak by vypadala plocha a zpoždění hardware, pokud by jste uložil vyhledávací tabulky do SRAM (pro 256b by to neměl být problém)?
  4. Myslíte si, že by původní autor knihovny přijal merge request s Vaším kódem?
Komise
Hruška Tomáš, prof. Ing., CSc. (UIFS FIT VUT), předseda
Češka Milan, doc. RNDr., Ph.D. (UITS FIT VUT), člen
Grégr Matěj, Ing., Ph.D. (UIFS FIT VUT), člen
Hrdina Jaroslav, doc. Mgr., Ph.D. (UM OADM FSI VUT), člen
Malinka Kamil, Mgr., Ph.D. (UITS FIT VUT), člen
Vašíček Zdeněk, doc. Ing., Ph.D. (UPSY FIT VUT), člen
Citace
JUHAŇÁK, Pavel. Zjednodušené násobení v konvolučních neuronových sítích. Brno, 2019. Diplomová práce. Vysoké učení technické v Brně, Fakulta informačních technologií. 2019-06-14. Vedoucí práce Sekanina Lukáš. Dostupné z: https://www.fit.vut.cz/study/thesis/21476/
BibTeX 
@mastersthesis{FITMT21476,
    author = "Pavel Juha\v{n}\'{a}k",
    type = "Diplomov\'{a} pr\'{a}ce",
    title = "Zjednodu\v{s}en\'{e} n\'{a}soben\'{i} v konvolu\v{c}n\'{i}ch neuronov\'{y}ch s\'{i}t\'{i}ch",
    school = "Vysok\'{e} u\v{c}en\'{i} technick\'{e} v Brn\v{e}, Fakulta informa\v{c}n\'{i}ch technologi\'{i}",
    year = 2019,
    location = "Brno, CZ",
    language = "czech",
    url = "https://www.fit.vut.cz/study/thesis/21476/"
}

Závěrečné práce

Nahoru