Detail publikace
Machine Learning in Context of IoT/Edge Devices and LoLiPoP-IoT Project
Lojda Jakub, Ing., Ph.D. (UPSY FIT VUT)
Smrž Pavel, doc. RNDr., Ph.D. (UPGM FIT VUT)
Šimek Václav, Ing. (UPSY FIT VUT)
Modely strojového učení se tradičně nasazují v cloudu nebo na centralizovaných serverech, aby se využily jejich výpočetní zdroje. Takové nasazení však může snížit soukromí, vést k extra latenci, spotřebovat více energie atd. a následně negativně ovlivnit vlastnosti aplikace, která je napájena z baterie a na zařízení komunikujícím prostřednictvím bezdrátové sítě. Pro minimalizaci negativního dopadu je nutné nasadit model přímo do zařízení, aby se minimalizovala energie přenosu dat a provozovat model blíže ke zdroji dat a aplikaci a jejímu prostředí. Tento druh nasazení však představuje náročný úkol kvůli velmi omezeným zdrojům, které jsou v obdobných zařízeních a aplikacích k dispozici. Mnoho lidí a společností se s tímto náročným problémem vypořádalo po svém a navrhlo různé způsoby a prostředky k jeho řešení. Po definování problému a oblasti našeho zájmu poskytuje článek přehled reprezentativních aplikací, metod a prostředků, včetně knihoven, frameworků, datových sad, zařízení atd. Následně představuje typický pracovní postup procesu nasazení v kontextu zařízení s omezenými zdroji. Nakonec shrnuje reprezentativní výsledky pro populární zařízení s omezenými zdroji (např. Arduino, ARM Cortex-M, ESP32, nRF5x, Nvidia Jetson, Raspberry Pi), aby ukázal, jak různé jevy (např. typ modelu, nastavení, kvantizace) ovlivňují výkon modelu (např. přesnost, ztráta), metriky (např. ROC AUC, skóre F1) a výkon zařízení (např. doba extrakce příznaků či generování výstupu, využití paměti).
@INPROCEEDINGS{FITPUB13228, author = "Josef Strnadel and Jakub Lojda and Pavel Smr\v{z} and V\'{a}clav \v{S}imek", title = "Machine Learning in Context of IoT/Edge Devices and LoLiPoP-IoT Project", pages = "1--4", booktitle = "Proceedings of 32nd Austrian Workshop on Microelectronics (Austrochip 2024)", year = 2024, location = "Vienna, AT", publisher = "Institute of Electrical and Electronics Engineers", ISBN = "979-8-3315-1617-8", doi = "10.1109/Austrochip62761.2024.10716234", language = "english", url = "https://www.fit.vut.cz/research/publication/13228" }