Detail publikace

Evolutionary Neural Architecture Search Supporting Approximate Multipliers

PIŇOS Michal, MRÁZEK Vojtěch a SEKANINA Lukáš. Evolutionary Neural Architecture Search Supporting Approximate Multipliers. In: Genetic Programming, 24th European Conference, EuroGP 2021. Lecture Notes in Computer Science, vol 12691, roč. 12691. Seville: Springer Nature Switzerland AG, 2021, s. 82-97. ISBN 978-3-030-72812-0. Dostupné z: https://link.springer.com/chapter/10.1007%2F978-3-030-72812-0_6
Název česky
Evoluční návrh architektur neuronových sítí podporující aproximativní násobičky
Typ
článek ve sborníku konference
Jazyk
angličtina
Autoři
URL
Abstrakt

Metody automatizovaného vyhledávání architektur neuronových sítí (NAS) zaznamenaly v poslední době rostoucí zájem. Tyto metody se obvykle používají k nalezení vysoce kvalitních architektur neuronových sítí pro různé (obvykle náročné) datové sady a zároveň snižují úsilí návrháře, spojené s návrhem modelu. Metody NAS, využívající vícekriteriální evoluční algoritmy, jsou obzvláště užitečné, když je cílem nejen minimalizovat chybu sítě, ale také minimalizovat počet parametrů (vah) sítě nebo spotřebu energie inferenční fáze. V této práci navrhujeme vícekriteriální NAS metodu, založenou na kartezském genetickém programování, zaměřenou na evoluci architektur konvolučních neuronových sítí (CNN). Navrhovaná metoda umožňuje využití aproximovaných operací v CNN modelech, za účelem snížení spotřeby energie na cílovém hardwaru. Během procesu evoluce je navrhováná vhodná architektura CNN společně s aproximovanými násobičkami, s cílem nalezt nejlepší kompromis mezi přesností, velikostí sítě a spotřebou energie. Nejvhodnější aproximované násobičky jsou automaticky vybírány z knihovny aproximovaných násobiček. Vyvinuté CNN modely jsou srovnávány s běžnými, ručně navrženými modely CNN podobné složitosti, na srovnávací datové sadě CIFAR-10.

Rok
2021
Strany
82-97
Sborník
Genetic Programming, 24th European Conference, EuroGP 2021
Řada
Lecture Notes in Computer Science, vol 12691
Svazek
12691
Konference
24th European Conference on Genetic Programming, Seville, ES
ISBN
978-3-030-72812-0
Vydavatel
Springer Nature Switzerland AG
Místo
Seville, ES
DOI
UT WoS
000894232700006
EID Scopus
BibTeX
@INPROCEEDINGS{FITPUB12361,
   author = "Michal Pi\v{n}os and Vojt\v{e}ch Mr\'{a}zek and Luk\'{a}\v{s} Sekanina",
   title = "Evolutionary Neural Architecture Search Supporting Approximate Multipliers",
   pages = "82--97",
   booktitle = "Genetic Programming, 24th European Conference, EuroGP 2021",
   series = "Lecture Notes in Computer Science, vol 12691",
   volume = 12691,
   year = 2021,
   location = "Seville, ES",
   publisher = "Springer Nature Switzerland AG",
   ISBN = "978-3-030-72812-0",
   doi = "10.1007/978-3-030-72812-0\_6",
   language = "english",
   url = "https://www.fit.vut.cz/research/publication/12361"
}
Nahoru