Ovlivňování voleb, nadávky oponentům a třeba také návody na „geniální metodu“ jak zbohatnout. Vystupují v nich politici či celebrity. V drtivé většině jsou to deepfake, tedy falešně vytvořená videa, která mohou působit velmi věrohodně. Obětí se stal už třeba ministr vnitra Vít Rakušan (STAN), ale i američtí exprezidenti Barack Obama s Donaldem Trumpem a současná hlava USA Joe Biden. A lídr slovenské opozice Michal Šimečka (PS) tvrdí, že na něj namířený deepfake mohl výrazně ovlivnit poslední slovenské parlamentní volby.
„Právě odcházím ze Sněmovny, abych vydrbal s dezoláty v Karviné. Přijďte se ptát, co vás zajímá, já odpovím na něco jiného a vaše komentáře pak zcenzuruji,“ říká na videu 1. vicepremiér a ministr vnitra Vít Rakušan. Problémem je, že se jedná o podvrh, takzvaný deepfake.
Můj první deepfake! Nebo spíš cheapfake? 😅
— Vít Rakušan (@Vit_Rakusan) January 27, 2024
Bylo by to legrační, kdyby problematika zneužívání AI nebyla ve skutečnosti tak nebezpečná. Před bezpečnostní experty staví úkol, jak se s jejím nástupem vypořádat. My ostatní mezitím musíme používat zdravý rozum a ověřovat si… pic.twitter.com/UFTRM1iw7F
Na videu je patrné, že Rakušanova ústa se nepohybují podle slov, která má říkat. Vyjádření je upravené technologií tak, aby šéfa resortu vnitra očernilo před jedním z jeho výjezdů na besedy s občany, které nedávno ohlásil. V pravém videu naopak řekl, že se do Karviné těší a zve lidi k diskusi.
ČTĚTE TAKÉ: Facebook a Instagram chtějí označovat obrázky generované AI. Podvodná videa ale nezastaví
Rakušan se k deepfaku vrátil i v nedávném rozhovoru pro CNN Prima NEWS. Nepravé video na svoji osobu označil za „cheapfake“, ale dodal, že zkušený člověk s dobrým softwarem může udělat mnohem lepší a uvěřitelnější práci. „Na Evropské radě byl zástupce Europolu, který ukazoval, co dokáže dobrý software za 25 minut. Pro laika to bylo od reality absolutně nerozeznatelné. Patří to mezi věci, na které se na vnitru připravujeme, ale myslím, že celková vládní odezva a důraz tímto směrem by měl být silnější,“ řekl CNN Prima NEWS Rakušan.
Svoji špatnou zkušenost s deepfake má i slovenský opoziční předák Michal Šimečka (PS). Pouhý den před parlamentními volbami na Slovensku na konci loňského září se v e-mailových schránkách mnohých občanů objevil audiozáznam údajného hovoru Šimečky s novinářkou Denníku Monikou Tódovou. Lídr PS v něm o voličích Fica hovoří jako o „lidech z dezolátských krajů“.
I v tomto případě to byl falešně upravený záznam. Šimečka pro CNN řekl, že hlas v souboru sice zní jako jeho, ale rozhodně tato slova nevyřkl. Dodal, že video využívali jeho odpůrci k šíření konspiračních teorií, že PS ovlivňuje volby. Ty nakonec vyhrál Robert Fico a jeho Směr-SD. Šimečka zároveň zmínil, že netuší, zda deepfake zlomil volby ve prospěch Fica, „ale nejspíš to nějaký efekt mělo“.
MOHLO VÁM UNIKNOUT: Neblahé zkušenosti s deepfake má i CNN Prima NEWS
Šéfredaktor portálu Aktuality.sk Peter Bárdy CNN Prima NEWS popsal, že Šimečkův deepfake byl v době voleb velkým tématem. „Nevím, zda video mohlo ovlivnit výsledky, ale pozornost tomu věnovala velká světová média. Pro slovenské vyšetřovatele to ale nebylo téma,“ komentoval pro CNN Prima NEWS Bárdy.
Trump: Umělá inteligence je nejnebezpečnější
Terčem falešných videí se stal před časem americký exprezident Barack Obama. „Vstupujeme do éry, kdy to naši nepřátelé mohou udělat tak, jako by kdokoliv mohl říct cokoliv,“ říká hlas Obamy na videu. Tento deepfake byl však využit právě pro edukativní účely.
Cílem deepfake videí se stali také pravděpodobní soupeři v letošních prezidentských volbách – bývalá hlava státu Donald Trump a nynější prezident Joe Biden. Hlas druhého jmenovaného zněl v posledních týdnech ve státě New Hampshire, kde lákal demokratické voliče. Informovala o tom americká média v čele s webem Wired.
Útoku se dočkal i Trump. Dezinformátoři zveřejnili video, na kterém neustále vysvětluje, proč v době koronaviru nevyhodil z pozice hlavního hygienika USA Anthonyho Fauciho. Video je doplněné o snímky, na kterých Trump lékaře až láskyplně objímá – nutno dodat, že jde o falešné fotografie vytvořené umělou inteligencí, jak hlásí portál EuroNews.
Trump se posléze nechal slyšet, že umělá inteligence využívaná v tomto směru se mu zdá mimořádně „děsivá“. „Myslím, že je to aktuálně možná ta nejnebezpečnější věc, protože k ní neexistuje žádné reálné řešení,“ řekl republikánský exprezident ve vysílání televize Fox News.
