Bezpečnostní dopady umělé inteligence v kybernetické bezpečnosti

V posledních letech došlo obrovskému zvýšení kvality výstupů neuronových sítí generující syntetický obsah, které šlo ruku v ruce s výrazným zjednodušením použití nástrojů využívajících AI a také jejich vyšší dostupností. Rostoucí trend v používání umělé inteligence tak přináší nové výzvy oblasti kybernetické bezpečnosti. Nejvýznamnějšími příklady je použití tzv. "deepfakes" k útoku na biometrické systémy nebo využití technik hlubokého učení k detekci kybernetických útoků. Cílem této práce je ve vybrané oblasti kybernetické bezpečnosti analyzovat nové trendy, přístupy, reálné útoky, jejich vlastnosti, dopady a potenciální aplikace. Práce by poté měla na základě analýzy a výzkumu stavu bezpečnosti pro vybrané oblasti navrhnout nové metody ochrany založené na AI.

Doporučené oblasti zaměření práce:
Vliv generativní AI na bezpečnost kódu a aplikační bezpečnost
Lidský faktor v útocích založené na AI - např. zvyšování schopnosti lidí rozpoznávat tento typ útoků
Dopady generativní AI na bezpečnost biometrické autentizace (hlas, obličej, ...)

Očekává se účast na relevantních mezinárodních konferencích a publikování v odborných či vědeckých časopisech.

Na vedení práce se bude podílet školitel-specialista dr. Kamil Malinka.