Detail publikace

Improving the Accuracy and Hardware Efficiency of Neural Networks Using Approximate Multipliers

ANSARI Mohammad S., MRÁZEK Vojtěch, COCKBURN Bruce F., SEKANINA Lukáš, VAŠÍČEK Zdeněk a HAN Jie. Improving the Accuracy and Hardware Efficiency of Neural Networks Using Approximate Multipliers. IEEE Transactions on Very Large Scale Integration (VLSI) Systems, roč. 28, č. 2, s. 317-328. ISSN 1063-8210.
Typ
článek v časopise
Jazyk
angličtina
Autoři
Ansari Mohammad S. (UALBERTA)
Mrázek Vojtěch, Ing., Ph.D. (UPSY FIT VUT)
Cockburn Bruce F., Dr. (UALBERTA)
Sekanina Lukáš, prof. Ing., Ph.D. (UPSY FIT VUT)
Vašíček Zdeněk, doc. Ing., Ph.D. (UPSY FIT VUT)
Han Jie, Dr. (UALBERTA)
Abstrakt

Zlepšování přesnosti klasifikace neuronové sítě (NN) obvykle vyžaduje použití složitějšího hardware a větší spotřebu energie. Protože je možné využít jisté tolerance NN vůči chybám, mohou být při jejich návrhu aplikovány principy aproximativního počítání vedoucí ke snížení ceny implementace. Jestliže je operace násobení v NN energeticky nejnáročnější, pak využití aproximativních násobiček povede ke snížení ceny implementace. Je také ukázáno, že použití aproximativních násobiček a zavedení šumu může vést ke zlepšení přesnosti klasifikace. V článku uvažujeme dvě skupiny aproximativních násobiček: 1) navržené konvenčně a 2) navržené evolučně pomocí kartézského genetického programování. Je studován dopad zavedení těchto aproximativních násobiček do vícevrstvé NN a konvoluční NN v  úlohách klasifikace obrazu nad datovými sadami MNIST a SVHN. Bylo dosaženo zlepšení přesnosti klasifikace až o 0.63% a zredukován příkon a plocha na čipu o 71.45% a 61.55%. Dále byly identifikovány příznaky umožňující odhadnout, zda bude daná aproximativní násobička lepší než jiná z pohledu přesnosti klasifikace NN.

Rok
2020
Strany
317-328
Časopis
IEEE Transactions on Very Large Scale Integration (VLSI) Systems, roč. 28, č. 2, ISSN 1063-8210
Vydavatel
IEEE Computer Society
DOI
UT WoS
000510674300002
EID Scopus
BibTeX
@ARTICLE{FITPUB12066,
   author = "S. Mohammad Ansari and Vojt\v{e}ch Mr\'{a}zek and F. Bruce Cockburn and Luk\'{a}\v{s} Sekanina and Zden\v{e}k Va\v{s}\'{i}\v{c}ek and Jie Han",
   title = "Improving the Accuracy and Hardware Efficiency of Neural Networks Using Approximate Multipliers",
   pages = "317--328",
   journal = "IEEE Transactions on Very Large Scale Integration (VLSI) Systems",
   volume = 28,
   number = 2,
   year = 2020,
   ISSN = "1063-8210",
   doi = "10.1109/TVLSI.2019.2940943",
   language = "english",
   url = "https://www.fit.vut.cz/research/publication/12066"
}
Nahoru