deepfake

Investujte své úspory, nainstalujte si novou aplikaci a užívejte si pohádkové příjmy prakticky bez práce. Těmito lákavými slovy podvodníci nabádají nepozorné lidi na internetu a zneužívají i tváře CNN Prima NEWS prostřednictvím deepfake videí. A bohužel, používají čím dál pokročilejší nástroje, které moderátorům i reportérům klonují hlas a vkládají jim do úst vlastní slova. Jak falešná videa poznat? Na co si dát pozor? Redakce CNN Prima NEWS připravila ve spolupráci s experty pět základních rad, kterých byste se měli držet, abyste se nestali obětí podvodu.

Deepfake. Pojem, který s čím dál dostupnějšími a sofistikovanějšími technologiemi dělá vrásky na čele nejen expertům, ale i politikům. S blížícími se evropskými volbami tomu nebude jinak – dezinformační kampaně se už nyní ve velkém spoléhají na videa s upraveným obrazem i naklonovaným hlasem kandidátů. Navíc jde o opovážlivě levnou službu. „Ceny začínají na dvou dolarech za video, za 100 dolarů si lze zaplatit více videí a pokusů. Vytváření podvodného obsahu je tak znepokojivě dostupné,“ varují odborníci z kyberbezpečnostní agentury Check Point.

Rozdávám 50 milionů korun, láká údajně MMA bijec Jiří Procházka v rozhovoru pro CNN Prima NEWS. Ve skutečnosti ovšem jde o falešné video, které má z příliš důvěřivých lidí vylákat peníze. Podvodníci použili nástroje umělé inteligence, aby téměř perfektně replikovali hlas zúčastněných. Jak se vyvarovat podobných podvodů? Klíčové faktory popsal redakci CNN Prima NEWS Tomáš Hubínek, expert na AI a ředitel technologické společnosti BigHub.

Ke tvorbě deepfake videa stačí dvě minuty, přiblížila ve vysílání CNN Prima NEWS Barbara Zitová, vedoucí oddělení zpracování obrazové informace ÚTIA AV ČR. Zdůraznila však, že aplikace vyžadují zpravidla povolení, takže není možné použít k podvodnému videu „kohokoliv, kdo je na internetu“. Expertka rovněž popsala, jak může umělá inteligence pomoci v objasňování snímků s UFO.

Multiplatforma CNN Prima NEWS vytáhla do boje proti takzvaným deepfake videím. Moderátorka Pavlína Wolfová podobně jako její další kolegové se stala nechtěným nástrojem podvodníků využívajících takzvanou umělou inteligenci k oklamání lidí. Nyní moderátorka varuje v novém spotu veřejnost před propracovanými metodami internetových zlodějů. V posledních měsících byla terčem nekalých praktik i samotná značka CNN Prima NEWS. Také proto redakce varuje co největší množství lidí, aby šmejdům lačnícím po penězích důvěřivých lidí ideálně nikdo nenaletěl.

Většina Čechů neví, co znamená pojem deepfake. Deepfake je zdánlivě reálný, umělou inteligencí vytvořený obraz, zvuk nebo video, které se nezakládá na pravdě. Populace má i poměrně nízké povědomí o tom, jak fungují jazykové modely založené na umělé inteligenci, jako je ChatGPT. Vyplývá to z průzkumu, který pro Středoevropskou observatoř digitálních médií (CEDMO) při Univerzitě Karlově udělala agentura Median. Zúčastnilo se ho přes tři tisíce lidí starších 16 let. O průzkum informovali zástupci CEDMO.

Svět bez umělé inteligence se už zřejmě nikdy nevrátí, krabička byla otevřena a nám nezbývá nic jiného, než se s tím sžít. V pořadu Nový den na CNN Prima NEWS to konstatovala vedoucí oddělení zpracování obrazové informace ÚTIA AV ČR Barbara Zítová.

Ovlivňování voleb, nadávky oponentům a třeba také návody na „geniální metodu“ jak zbohatnout. Vystupují v nich politici či celebrity. V drtivé většině jsou to deepfake, tedy falešně vytvořená videa, která mohou působit velmi věrohodně. Obětí se stal už třeba ministr vnitra Vít Rakušan (STAN), ale i američtí exprezidenti Barack Obama s Donaldem Trumpem a současná hlava USA Joe Biden. A lídr slovenské opozice Michal Šimečka (PS) tvrdí, že na něj namířený deepfake mohl výrazně ovlivnit poslední slovenské parlamentní volby.

Je to podvrh, nebo skutečná fotka? Na takovou otázku by technologická společnost Meta ráda našla odpověď. Provozovatel sociálních sítí Facebook, Instagram nebo Threads začne označovat obrázky vytvořené pomocí umělé inteligence. Zároveň věří, že ji v identifikaci takového obsahu pomůžou i uživatelé. Mnohem vyšší riziko zneužití ale představují falešná videa, na ně je americká firma krátká.

Vydrbu s dezoláty, vzkázal ministr vnitra Vít Rakušan (STAN) ve falešném videu, které se nyní hojně sdílí po sociálních sítích – dezinformačních kanálů nevyjímaje. A další podobné výtvory přibývají rapidní rychlostí. Rakušan na dotaz redakce CNN Prima NEWS přislíbil, že bude fenomén falešných a zavádějících videí řešit. Jeho resort následně vydal několik osvědčených kroků a doporučení, jak se nestát obětí „laciné manipulace“. „V žádném případě to nepodceňujeme,“ uvedlo ve svém stanovisku ministerstvo vnitra.

Aktuální konflikt na Ukrajině ukazuje, jak nebezpečné mohou být do budoucna nové metody hybridní a dezinformační války. Ruští hackeři se v březnu například pokusili demoralizovat ukrajinské jednotky zveřejněním deepfake videa, tedy uměle vytvořeného videa, na kterém prezident Ukrajiny Volodymyr Zelenskyj vyzýval své vojáky ke složení zbraní.

Falešné video s proslovem Andreje Babiše, které vypadá skoro jako skutečné? Žádný velký problém. Žijeme v době, kdy i slova politických špiček mohou být jen snůškou předem zmanipulovaných vět vytvořených moderními technologiemi. Ty jim dokáží vetknout i realistickou tvář. Tématu dezinformací se dlouhodobě věnuje europoslankyně Markéta Gregorová (Piráti), která nedávno zahájila osvětovou kampaň „Pravda bolí“.