Nástroje boje proti hlasovým DeepFakes

Tools To Combat Voice DeepFakes

grant

Deepfakes; umělá inteligence; počítačová bezpečnost

Deepfakes jsou novou aplikací umělé inteligence s významným dopadem na počítačovou bezpečnost. Jejich tvorba je stále snazší než kdykoli předtím a tyto nástroje lze využít k oklamání jednotlivců i organizací, zejména v kombinaci s taktikami sociálního inženýrství, jako je phishing.

Tento projekt se proto zaměřuje na pochopení možných způsobů použití a souvisejících hrozeb při zákeřném používání hlasových deepfakes se záměrem najít spolehlivé strategie pro zmírnění těchto hrozeb. Tím můžeme zajistit, aby tyto inovace byly využívány eticky a zodpovědně, a vytvořit tak udržitelnější a spravedlivější budoucnost pro všechny.

Aktivity projektu jsou zaměřeny na 3 oblasti: zvýšení odolnosti hlasových biometrických systémů vůči útokům typu deepfakes spoofing, vytvoření nástrojů umožňující boj proti škodlivému použití hlasových deepfakes a vyhodnocení schopnosti lidí rozpoznat hlasové deepfakes a nalezení způsobů, jak zvýšit bezpečnostní povědomí uživatelů.

Kudla Radim, Ing. (UPGM FIT VUT) , hlavní řešitel
Malinka Kamil, Mgr., Ph.D. (UITS FIT VUT) , spoluřešitel
Brukner Jan, Ing. (UPGM FIT VUT)
Burget Lukáš, doc. Ing., Ph.D. (UPGM FIT VUT)
Černocký Jan, prof. Dr. Ing. (UPGM FIT VUT)
Firc Anton, Ing. (UITS FIT VUT)
Foltyn Lukáš, Bc. (UPGM FIT VUT)
Halas Jaromír (CVT FIT VUT)
Hanáček Petr, doc. Dr. Ing. (UITS FIT VUT)
Knapovský Jan, Bc. (CVT FIT VUT)
Kotolan Martin (CVT FIT VUT)
Matějka Pavel, Ing., Ph.D. (UPGM FIT VUT)
Mihola David, Bc. (UPGM FIT VUT)
Plchot Oldřich, Ing., Ph.D. (UPGM FIT VUT)
Polok Alexander, Ing. (UPGM FIT VUT)
Reš Jakub, Ing. (UITS FIT VUT)
Silnova Anna, MSc., Ph.D. (UPGM FIT VUT)
Staněk Vojtěch, Bc. (UPGM FIT VUT)
Šalko Milan, Ing. (UITS FIT VUT)