Detail publikace

A Fast Design Space Exploration Framework for the Deep Learning Accelerators: Work-in-Progress

COLUCCI Alessio, MARCHISIO Alberto, BUSSOLINO Beatrice, MRÁZEK Vojtěch, MARTINA Mauricio, MASERA Guido a SHAFIQUE Muhammad. A Fast Design Space Exploration Framework for the Deep Learning Accelerators: Work-in-Progress. In: 2020 International Conference on Hardware/Software Codesign and System Synthesis (CODES+ISSS)}. Singapore: Institute of Electrical and Electronics Engineers, 2020, s. 34-36. ISBN 978-1-7281-9198-0.
Název česky
Rychlý framework pro prohledávání a návrh konfigurací akcelerátorů hlubokých neuronových sítí
Typ
článek ve sborníku konference
Jazyk
angličtina
Autoři
Colucci Alessio (TU-Wien)
Marchisio Alberto (TU-Wien)
Bussolino Beatrice (POLITO)
Mrázek Vojtěch, Ing., Ph.D. (UPSY FIT VUT)
Martina Mauricio (POLITO)
Masera Guido (POLITO)
Shafique Muhammad (TU-Wien)
Abstrakt

Capsulové sítě (CapsNets) jsou pokročilou formou konvolučních neuronových sítí (CNN), schopné učit se prostorové vztahy a neměnné vůči transformacím. CapsNets vyžaduje složité maticové operace, pro které nejsou aktuální akcelerátory optimalizovány, jak pro trénování, tak pro inferenci. Současné nejmodernější simulátory a nástroje pro prohledávání stavového prostoru (DSE) pro hardwarové akcelerátory neuronových sítí zanedbávají modelování trénování a navíc je prohledávání časově náročné, což zpomaluje kompletní návrh akcelerátoru. Tyto překážky omezují aplikace CapsNets v reálném světě (např. Autonomní řízení a robotika), jakož i další vývoj DNN ve scénářích real-time učení, které vyžadují trénování na zařízeních s nízkou spotřebou energie. K tomu představujeme XploreDL, nový framework pro rychlé, ale přesné prohledávání jak pro inferenční, tak pro tréninkové akcelerátory, podporující operace CNN i CapsNets. XploreDL umožňuje návrh efektivních akcelerátorů se zaměřením na výkon, plochu a latenci, přičemž hledá Pareto optimální řešení. XploreDL může dosáhnout stejné věrnosti jako SCALE-sim společnosti ARM, zatímco poskytuje 600x zrychlení a má 50x nižší paměťovou náročnost.

Rok
2020
Strany
34-36
Sborník
2020 International Conference on Hardware/Software Codesign and System Synthesis (CODES+ISSS)}
Konference
2020 International Conference on Hardware/Software Codesign and System Synthesis (CODES+ISSS), Singapore, SG
ISBN
978-1-7281-9198-0
Vydavatel
Institute of Electrical and Electronics Engineers
Místo
Singapore, SG
DOI
10.1109/CODESISSS51650.2020.9244038
UT WoS
000833313100014
EID Scopus
2-s2.0-85097640545
BibTeX 
@INPROCEEDINGS{FITPUB12420,
   author = "Alessio Colucci and Alberto Marchisio and Beatrice Bussolino and Vojt\v{e}ch Mr\'{a}zek and Mauricio Martina and Guido Masera and Muhammad Shafique",
   title = "A Fast Design Space Exploration Framework for the Deep Learning Accelerators: Work-in-Progress",
   pages = "34--36",
   booktitle = "2020 International Conference on Hardware/Software Codesign and System Synthesis (CODES+ISSS)\}",
   year = 2020,
   location = "Singapore, SG",
   publisher = "Institute of Electrical and Electronics Engineers",
   ISBN = "978-1-7281-9198-0",
   doi = "10.1109/CODESISSS51650.2020.9244038",
   language = "english",
   url = "https://www.fit.vut.cz/research/publication/12420"
}
Nahoru