Detail publikace
Security Implications of Deepfakes in Face Authentication
Firc Anton, Ing. (UITS FIT VUT)
Malinka Kamil, Mgr., Ph.D. (UITS FIT VUT)
deepfake, rozpoznávání obličeje, biometrické systémy, strojové učení, počítačová bezpečnost
Deepfakes jsou média generovaná pomocí hlubokého učení a pro člověka jsou téměř nerozeznatelná od skutečného obsahu. Deepfakes zaznamenaly v posledních letech výrazný nárůst popularity. O jejich účinnosti při klamání lidí bylo napsáno mnoho článků. Stejně, ne-li více, znepokojuje potenciální zranitelnost systémů rozpoznávání obličeje a hlasu vůči deepfakes. Zneužití deepfakes k podvržení automatických systémů rozpoznávání obličeje může ohrozit různé aspekty našeho života, včetně finanční bezpečnosti a přístupu na zabezpečená místa. Tato problematika zůstává z velké části neprozkoumaná. Tento článek proto zkoumá technickou proveditelnost útoku na podvržené rozpoznávání obličeje. Nejprve provedeme analýzu hrozeb, abychom pochopili, jaké případy použití rozpoznávání obličeje umožňují provedení útoků deepfake spoofing. Na základě této analýzy definujeme model útočníka pro tyto útoky na systémy rozpoznávání obličeje. Poté demonstrujeme schopnost deepfakes podvrhnout dva komerční systémy rozpoznávání obličeje. Nakonec diskutujeme o možných prostředcích, jak těmto spoofingovým útokům zabránit.
@INPROCEEDINGS{FITPUB13076,
author = "Milan \v{S}alko and Anton Firc and Kamil Malinka",
title = "Security Implications of Deepfakes in Face Authentication",
booktitle = "SAC '24: Proceedings of the 39th ACM/SIGAPP Symposium on Applied Computing",
year = 2024,
doi = "10.1145/3605098.3635953",
language = "english",
url = "https://www.fit.vut.cz/research/publication/13076"
}