Detail projektu

Nástroje boje proti hlasovým DeepFakes

Období řešení: 1. 1. 2024 - 31. 12. 2026

Typ projektu: grant

Kód: VB02000060

Agentura: Ministerstvo vnitra České republiky

Program: Programu bezpečnostního výzkumu ČR 2021-2026: vývoj, testování a evaluace nových bezpečnostních technologií (SECTECH) - II. veřejná soutěž

Název anglicky
Tools To Combat Voice DeepFakes
Typ
grant
Klíčová slova

Deepfakes; umělá inteligence; počítačová bezpečnost

Abstrakt

Deepfakes jsou novou aplikací umělé inteligence s významným dopadem na počítačovou bezpečnost. Jejich tvorba je stále snazší než kdykoli předtím a tyto nástroje lze využít k oklamání jednotlivců i organizací, zejména v kombinaci s taktikami sociálního inženýrství, jako je phishing.

Tento projekt se proto zaměřuje na pochopení možných způsobů použití a souvisejících hrozeb při zákeřném používání hlasových deepfakes se záměrem najít spolehlivé strategie pro zmírnění těchto hrozeb. Tím můžeme zajistit, aby tyto inovace byly využívány eticky a zodpovědně, a vytvořit tak udržitelnější a spravedlivější budoucnost pro všechny.

Aktivity projektu jsou zaměřeny na 3 oblasti: zvýšení odolnosti hlasových biometrických systémů vůči útokům typu deepfakes spoofing, vytvoření nástrojů umožňující boj proti škodlivému použití hlasových deepfakes a vyhodnocení schopnosti lidí rozpoznat hlasové deepfakes a nalezení způsobů, jak zvýšit bezpečnostní povědomí uživatelů.

Řešitelé
Kudla Radim, Ing. (UPGM FIT VUT) , hlavní řešitel
Malinka Kamil, Mgr., Ph.D. (UITS FIT VUT) , spoluřešitel
Brukner Jan, Ing. (UPGM FIT VUT)
Burget Lukáš, doc. Ing., Ph.D. (UPGM FIT VUT)
Černocký Jan, prof. Dr. Ing. (UPGM FIT VUT)
Firc Anton, Ing. (UITS FIT VUT)
Foltyn Lukáš, Bc. (UPGM FIT VUT)
Halas Jaromír (CVT FIT VUT)
Hanáček Petr, doc. Dr. Ing. (UITS FIT VUT)
Knapovský Jan, Bc. (CVT FIT VUT)
Kotolan Martin (CVT FIT VUT)
Matějka Pavel, Ing., Ph.D. (UPGM FIT VUT)
Mihola David, Bc. (UPGM FIT VUT)
Plchot Oldřich, Ing., Ph.D. (UPGM FIT VUT)
Polok Alexander, Ing. (UPGM FIT VUT)
Reš Jakub, Ing. (UITS FIT VUT)
Rohdin Johan A., Dr. (UPGM FIT VUT)
Schwarz Petr, Ing., Ph.D. (UPGM FIT VUT)
Silnova Anna, MSc., Ph.D. (UPGM FIT VUT)
Staněk Vojtěch, Ing., Bc. (UPGM FIT VUT)
Šalko Milan, Ing. (UITS FIT VUT)
Publikace

2024

Nahoru