Deepfakes: příležitost, nebo hrozba?

Termín deepfake vznikl kombinací slov "deep learning" a "fake" a představuje podmnožinu syntetických médií (hlas, video, obrázky příp. kombinace). Ty jsou vytvořeny pomocí hlubokých neuronových sítí a zobrazují události, které se nikdy nestaly. Vedle možného pozitivního využití např. ve filmovém průmyslu a vzdělávání, si deepfakes získaly značnou pozornost převážně kvůli svým potenciálním negativním dopadům, kdy se dají zneužít ke zneuctění jednotlivce, k šíření falešných zpráv, ale i k útokům na biometrické autentizační systémy nebo tvorbu phishingu a scamu. V této kapitole si představíme jednotlivé typy deepfakes, možnosti jejich tvorby i detekce. Při vysvětlení jejich aplikace se zaměříme i na dopady v oblasti IT bezpečnosti.

The term "deepfake" is a combination of the words "deep learning" and "fake" and represents a subset of synthetic media (voice, video, images, or a combination). These are created by deep neural networks and depict events that never happened. In addition to their potential positive uses, e.g. in the film industry and education, deepfakes have gained considerable attention mainly due to their potential negative effects, where they can be used to defame individuals, spread fake news, but also to attack biometric authentication systems or create phishing and scam sites. In this chapter, we introduce the different types of deepfakes, their creation and detection options. In explaining their application, we will also focus on the implications in the area of IT security.