Falešný rozhovor s Jiřím Procházkou, podvodníci použili AI nástroje
Deepfake. Pojem, který s čím dál dostupnějšími a sofistikovanějšími technologiemi dělá vrásky na čele nejen expertům, ale i politikům. S blížícími se evropskými volbami tomu nebude jinak – dezinformační kampaně se už nyní ve velkém spoléhají na videa s upraveným obrazem i naklonovaným hlasem kandidátů. Navíc jde o opovážlivě levnou službu. „Ceny začínají na dvou dolarech za video, za 100 dolarů si lze zaplatit více videí a pokusů. Vytváření podvodného obsahu je tak znepokojivě dostupné,“ varují odborníci z kyberbezpečnostní agentury Check Point.
„Prověřili jsme 36 parlamentních, regionálních a prezidentských voleb, které se konaly od září 2023 do února 2024, a zjistili jsme, že nejméně v 10 případech byly použity k dezinformačním kampaním deepfake videa a audiozáznamy s klonováním hlasu. Často se nejedná o práci osamělých vlků, ale o koordinované akce profesionálních skupin. V souvislosti s evropskými volbami můžeme očekávat novou vlnu podvrhů napříč jednotlivými zeměmi,“ uvedl Daniel Šafář, manažer z kyberbezpečnostní společnosti Check Point Software Technologies.
ČTĚTE TAKÉ: Koupí Křetínský britskou poštu? Komentátor píše o „české sfinze“ a vágních slibech
Příkladem za všechny byly slovenské parlamentní volby, kde se někteří kandidáti stali obětí falešných videí s jejich naklonovanými hlasy. Deepfake se nevyhnul ani končící slovenské prezidentce Zuzaně Čaputové. Případů se objevilo tolik, že tamější policie musela zveřejnit výstrahu před podvodnými a upravenými audiovizuálními materiály.
Do evropských voleb podle expertů zasáhnou i falešná videa, upravená za pomocí AI nástrojů. Zdroj: CNN Prima NEWS
Falešná videa na míru? Podvodníci je vyrábí až znepokojivě levně. Zdroj: Se svolením Check Pointu
Falešná videa na míru? Podvodníci je vyrábí až znepokojivě levně. Zdroj: Se svolením Check Pointu
Falešná videa na míru? Podvodníci je vyrábí až znepokojivě levně. Zdroj: Se svolením Check Pointu
Falešná videa na míru? Podvodníci je vyrábí až znepokojivě levně. Zdroj: Se svolením Check Pointu
Falešná videa na míru? Podvodníci je vyrábí až znepokojivě levně. Zdroj: Se svolením Check Pointu
Do evropských voleb podle expertů zasáhnou i falešná videa, upravená za pomocí AI nástrojů. Zdroj: CNN Prima NEWS
Falešná videa na míru? Podvodníci je vyrábí až znepokojivě levně. Zdroj: Se svolením Check Pointu
Falešná videa na míru? Podvodníci je vyrábí až znepokojivě levně. Zdroj: Se svolením Check Pointu
Falešná videa na míru? Podvodníci je vyrábí až znepokojivě levně. Zdroj: Se svolením Check Pointu
Falešná videa na míru? Podvodníci je vyrábí až znepokojivě levně. Zdroj: Se svolením Check Pointu
Falešná videa na míru? Podvodníci je vyrábí až znepokojivě levně. Zdroj: Se svolením Check Pointu
„Při těsných výsledcích voleb mohou rozhodnout o vítězi i velmi drobné vlivy a vychýlit pomyslný jazýček na vahách jedním nebo druhým směrem. Podobně jsme viděli snahu ovlivnit polské volby pomocí videa se zvukem generovaným AI technologiemi. Ale i mnoho dalších zemí má podobné fatální zkušenosti. Jakkoli těžce měřitelný, úspěch těchto podvrhů ještě zvýší motivaci dalších útočníků v nadcházejících volbách,“ varují experti z Check Pointu ve své analýze.
Obětí falešných videí vytvořených za pomocí nástrojů umělé inteligence se stala také redakce CNN Prima NEWS. Podvodníci například naklonovali hlas reportéra Ondřeje Němce a UFC bojovníka Jiřího Procházku. Ten na zmanipulovaných záběrech sliboval rozdat 50 milionů korun mezi svými fanoušky, kteří se zapojí do pochybné aplikace. Více jsme o případu psali zde.
Napodobí i vaši intonaci
Deepfake není jediný problém, se kterým se evropské volby budou nejspíše potýkat. Videopodvrhy poslouží především k šíření dezinformací a manipulaci s veřejným míněním, ve vzduchu ale také visí i potenciální hrozba kybernetických útoků na infrastrukturu volebních systémů. Podle odborníků je proto nutná ostražitost a spolupráce na všech úrovních, aby byla zachována integrita volebního procesu.
Technologie podvodníků využívají strojové učení i umělou inteligenci k vytváření nebo úpravě videí a zvukových nahrávek, aby vypadaly a zněly autenticky. Vyobrazené osoby pak mohou dělat a říkat věci, které ve skutečnosti nikdy neudělaly ani neřekly. V kontextu voleb mohou podobná videa poškodit reputaci politiků, šířit falešné zprávy a dezinformace a v konečném důsledku tak ovlivnit rozhodování voličů.
MOHLO VÁM UNIKNOUT: Muž s čipem v mozku čelil nečekaným potížím. Vyřešili jsme to, říká Musk a hledá další zájemce
Samotné klonování zvukové stopy se používá k replikaci hlasu člověka s pozoruhodnou přesností. Analyzuje se výška, tón a styl hlasu, takže AI pak dokáže vygenerovat přesvědčivé falešné proslovy, které věrně napodobují originální hlas. Přitom stačí jen několik sekund zvuku z online videa nebo jiné nahrávky.
Znepokojivě levný podvod
Bohužel, jde také o relativně dostupnou a cenově dostupnou „službu“. Na Telegramu jsou stovky kanálů (přibližně okolo 500) a skupin, které nabízí deepfake videa – od automatizovaných botů, kteří uživatele provedou celým procesem, až po personalizované služby na míru poskytované přímo jednotlivými kyberzločinci. „Ceny začínají na dvou dolarech za video, za 100 dolarů si lze zaplatit více videí a pokusů. Vytváření podvodného obsahu je tak znepokojivě dostupné,“ popsal redakci Šafář.
Falešná videa na míru? Podvodníci je vyrábí až znepokojivě levně. Zdroj: Se svolením Check Pointu
Falešná videa na míru? Podvodníci je vyrábí až znepokojivě levně. Zdroj: Se svolením Check Pointu
To ostatně potvrzují i screenshoty, které redakci poskytl Check Point. Někteří „tvůrci“ nabízejí deepfake videa za jednorázovou platbu, jiní si dokonce vytvořili předplatitelský systém. Ceny začínají přibližně na 10 dolarech za měsíční paušál, ale mohou se vyšplhat i na stovky dolarů v závislosti na kvalitě poskytovaných funkcích, jako je převod na řeč v reálném čase, nižší latence nebo přístup k API rozhraní.
Překvapivě pestré jsou i způsoby plateb za vygenerování upraveného či z nuly vytvořeného videa, kromě klasické platební karty nejsou problém ani QR kódy či PayPal. Kvalita výsledků se zpravidla různí, všechna deepfake videa jsou ale potenciálně nebezpečná.
Falešná videa na míru? Podvodníci je vyrábí až znepokojivě levně. Zdroj: Se svolením Check Pointu
Falešná videa na míru? Podvodníci je vyrábí až znepokojivě levně. Zdroj: Se svolením Check Pointu
„Zároveň můžeme očekávat i vlnu hacktivistických výpadů, zejména v podobě DDoS útoků na nejrůznější služby a exponované webové stránky. Například během českých prezidentských voleb se proruská hacktivistická skupina NoName057(16) snažila vyřadit z provozu stránky některých kandidátů a vyvolat atmosféru strachu,“ konstatovala analýza společnosti Check Point na závěr.
Umělé inteligenci a technologiím se věnujeme také v herně-technologickém pořadu Enter, který můžete sledovat na CNN Prima NEWS každou sobotu ve 22:40 či v úterní repríze od 23:40. Nejnovější díl můžete zhlédnout níže.
