Deepfakes: Bezpečnostní výzva pro naše uši

Deepfakes jsou mezi námi již několik let, během kterých urazily dlouhou cestu od buzzwordu a nevinné zábavy až po reálnou hrozbu. Deepfakes jsou výstupem systémů umělé inteligence a strojového učení, které spojují, kombinují, nahrazují nebo překrývají multimediální obsah, a vytvářejí tak média, která vypadají autenticky. Týká se to videí, obrázků, řeči, nebo dokonce textu. Zatímco s video deepfakes se již setkáváme poměrně často, v poslední době se začala objevovat nová oblast - hlas. V tomto článku se proto budeme věnovat syntetické (deepfake) řeči a bezpečnostním dopadům, které by tato technologie mohla mít na rozpoznávání řečníků a náš každodenní život.

Deepfakes have been with us for several years, during which time they have come a long way from buzzworm and innocent fun to a real threat. Deepfakes are the output of artificial intelligence and machine learning systems that merge, combine, replace or overlay multimedia content to create media that looks authentic. This applies to videos, images, speech, or even text. While video deepfakes have been encountered quite often, a new area has recently started to emerge - voice. In this article, we will therefore discuss synthetic (deepfake) speech and the security implications this technology could have on speaker recognition and our daily lives.