Detail projektu
Nástroje boje proti hlasovým DeepFakes
Období řešení: 1. 1. 2024 – 31. 12. 2026
Typ projektu: grant
Kód: VB02000060
Agentura: Ministerstvo vnitra ČR
Deepfakes; umělá inteligence; počítačová bezpečnost
Deepfakes jsou novou aplikací umělé inteligence s významným dopadem
na počítačovou bezpečnost. Jejich tvorba je stále snazší než kdykoli předtím
a tyto nástroje lze využít k oklamání jednotlivců i organizací, zejména v
kombinaci s taktikami sociálního inženýrství, jako je phishing.
align=left>Tento projekt se proto zaměřuje na pochopení možných způsobů použití
a souvisejících hrozeb při zákeřném používání hlasových deepfakes se záměrem
najít spolehlivé strategie pro zmírnění těchto hrozeb. Tím můžeme zajistit, aby
tyto inovace byly využívány eticky a zodpovědně, a vytvořit tak udržitelnější
a spravedlivější budoucnost pro všechny.
Aktivity projektu jsou zaměřeny
na 3 oblasti: zvýšení odolnosti hlasových biometrických systémů vůči útokům typu
deepfakes spoofing, vytvoření nástrojů umožňující boj proti škodlivému použití
hlasových deepfakes a vyhodnocení schopnosti lidí rozpoznat hlasové deepfakes
a nalezení způsobů, jak zvýšit bezpečnostní povědomí uživatelů.
Brukner Jan, Ing. (UPGM)
Burget Lukáš, doc. Ing., Ph.D. (UPGM)
Černocký Jan, prof. Dr. Ing. (UPGM)
Firc Anton, Ing. (UITS)
Foltyn Lukáš, Bc. (FIT)
Halas Jaromír (CVT)
Hanáček Petr, doc. Dr. Ing. (UITS)
Knapovský Jan, Bc. (FIT)
Kotolan Martin (DFIT-OIP)
Malinka Kamil, doc. Mgr., Ph.D. (UITS)
Matějka Pavel, Ing., Ph.D.
Mihola David, Ing. (UPGM)
Plchot Oldřich, Ing., Ph.D. (UPGM)
Polok Alexander, Ing. (UPGM)
Reš Jakub, Ing. (UITS)
Rohdin Johan Andréas, M.Sc., Ph.D. (UPGM)
Schwarz Petr, Ing., Ph.D. (UPGM)
Silnova Anna, M.Sc., Ph.D. (UPGM)
Staněk Vojtěch, Ing. (UPGM)
Šalko Milan, Ing. (UITS)
Šůstek Martin, Ing. (UPGM)
Švec Ján, Ing. (UPGM)
Vrška Luděk (DFIT-OIP)
Yusuf Bolaji (UPGM)
2024
- ALAM, J.; BARAHONA QUIRÓS, S.; BOBOŠ, D.; BURGET, L.; CUMANI, S.; DAHMANE, M.; HAN, J.; HLAVÁČEK, M.; KODOVSKÝ, M.; LANDINI, F.; MOŠNER, L.; PÁLKA, P.; PAVLÍČEK, T.; PENG, J.; PLCHOT, O.; RAJASEKHAR, P.; ROHDIN, J.; SILNOVA, A.; STAFYLAKIS, T.; ZHANG, L. ABC SYSTEM DESCRIPTION FOR NIST SRE 2024. Proceedings of NIST SRE 2024. San Juan: National Institute of Standards and Technology, 2024.
p. 1-9. Detail - POLOK, A.; KLEMENT, D.; HAN, J.; SEDLÁČEK, Š.; YUSUF, B.; MACIEJEWSKI, M.; WIESNER, M.; BURGET, L. BUT/JHU System Description for CHiME-8 NOTSOFAR-1 Challenge. Proceedings of CHiME 2024 Workshop. Kos Island: International Speech Communication Association, 2024.
p. 18-22. Detail - ROHDIN, J.; ZHANG, L.; PLCHOT, O.; STANĚK, V.; MIHOLA, D.; PENG, J.; STAFYLAKIS, T.; BEVERAKI, D.; SILNOVA, A.; BRUKNER, J.; BURGET, L. BUT systems and analyses for the ASVspoof 5 Challenge. Proceedings of ASV spoof 2024 Workshop. Kos Island: International Speech Communication Association, 2024.
p. 24-31. Detail - STAFYLAKIS, T.; SILNOVA, A.; ROHDIN, J.; PLCHOT, O.; BURGET, L. Challenging margin-based speaker embedding extractors by using the variational information bottleneck. In Proceedings of Interspeech 2024. Proceedings of Interspeech. Kos: International Speech Communication Association, 2024. no. 9,
p. 3220-3224. ISSN: 1990-9772. Detail - WANG, S.; CHEN, Z.; HAN, B.; WANG, H.; XIANG, X.; ROHDIN, J.; SILNOVA, A.; QIAN, Y.; LI, H. Advancing speaker embedding learning: Wespeaker toolkit for research and production. SPEECH COMMUNICATION, 2024, vol. 162, no. 103104,
p. 1-12. ISSN: 0167-6393. Detail