The dawn of a text-dependent society: deepfakes as a threat to speech verification systems

deepfakes, ověření identity hlasem, hlasové biometrické systémy,  strojové učení, kyberbezpečnost

Již nyní víme, že deepfakes představují pro lidstvo hrozbu. V současné době většinou jako falešné zprávy nebo dezinformace, nicméně stále existují neprozkoumané oblasti, jako je například využití deepfakes k podvržení ověření hlasu. Představujeme reálný případ použití podvrženého ověřování hlasu v call centru péče o zákazníky. Na základě tohoto scénáře vyhodnocujeme proveditelnost útoku na takový systém a vytváříme profil útočníka. Za tímto účelem zkoumáme tři dostupné nástroje pro syntézu řeči a diskutujeme o jejich použitelnosti. Pomocí těchto nástrojů a získaných znalostí vytváříme datovou sadu obsahující deepfake řeč a hodnotíme odolnost hlasových biometrických systémů proti deepfake. Prokazujeme, že hlasové biometrické systémy jsou skutečně zranitelné vůči útokům založeným na deepfake. Nejvýznamnějším výsledkem je návrh textově závislého ověřování jako nového protiopatření proti prezentovaným útokům. Ověřování závislé na textu poskytuje vyšší bezpečnost než ověřování nezávislé na textu a může být dnes použito jako nejjednodušší metoda ochrany proti deepfakes.