Dezinformace a umělá inteligence? Technická kvalita se stále zlepšuje, varuje Kačmář z Microsoftu

Umělá inteligence (AI) má širokou škálu aplikací v oblasti tvorby obsahu. Může být použita různými způsoby k napodobení buď audiovizuálního obsahu, jak napovídá název DeepFake video, hlasové stopy, kterou vidíme v některých kampaních, nebo to jsou pouze statické obrázky a fotografie, ale například nepocházejí z reálného světa nebo situace. „Umělá inteligence je dnes dovede vygenerovat ve velmi vysoké kvalitě. A samozřejmě tím pádem je vliv na koncového spotřebitele čtenáře daleko větší,“ vysvětluje Dalibor Kačmář v pořadu Interview PLUS.

Cílové skupiny samotných videí nebo podvrženého obsahu nejsou omezené věkem. Průzkum, který nedávno vypublikovala společnost Ipsos společně s Fakultou sociálních věd Univerzity Karlovy právě na téma zneužití nebo porozumění DeepFake videí, ukázal zajímavé výsledky. „Důvěryhodnost takových upravených videí je větší u mladší generace mezi 18 až 26 lety. Spíše bych očekával, že to více ovlivní starší generaci, která s internetovým prostředím nemá letitou zkušenost,“ říká ředitel pro technologické standardy ve společnosti Microsoft Česká republika a Slovensko. Důležité, podle jeho slov, je, kdo se ve videu objeví jako zdroj a zneužitá osobnost, která dezinformaci šíří.

Technická kvalita DeepFake se neustále zlepšuje

Hráčů, kteří mohou zamezit šíření takového obsahu, je celá řada. V první řadě jsou to samotní příjemci. Měli by být pozorní a samozřejmě ihned reagovat, kdykoliv obdrží video nebo obsah, který je do nějaké míry nerealistický nebo těžko uvěřitelný. Dalibor Kačmář uvádí konkrétní příklad: „Můžeš vydělat peníze, aniž bys musel pracovat. Do DeepFake videí byly vloženy postavy prezidenta Pavla nebo Andreje Babiše. Proto je nutné si uvědomit, jestli vůbec to může být pravda nezávisle na osobě, která to v tom videu říká.“

Na druhé straně to pak jsou technologické společnosti, jako je třeba Microsoft, který dnes patří k  lídrům v oblasti technologií pro umělou inteligenci. „My se snažíme zabránit maximálním způsobem zneužití těch technologií právě k vytváření takovéhoto škodlivého nebo závadného obsahu,“ popisuje ředitel pro technologické standardy v této společnosti.

Útočníci mohou vytvořit falešná videa s cílem přesvědčit spotřebitele, aby odeslali peníze na účty pod záminkou zisku nebo fiktivního vydání osobních údajů. Tímto způsobem mohou provádět podvodné aktivity s jasnými ekonomickými cíli. DeepFake videa mohou být použita i k manipulaci s veřejným míněním. Například před volbami mohou být vytvořena falešná videa politiků, která mají za cíl ovlivnit voliče.

Před velkými sportovními událostmi, jako je olympiáda, mohou být vytvořena DeepFake videa, která mají za cíl vyvolat strach z potenciálního zločinu během události. To může odrazovat návštěvníky od účasti na takovémto sportovním svátku. Je důležité, abychom byli obezřetní a kritičtí vůči videím, která vidíme na internetu, a uvědomovali si možnost manipulace pomocí umělé inteligence.

Evropa přichází s regulací

Dalším regulačním mechanismem je Akt o umělé inteligenci, který specificky reguluje její použití. „V případě videí, která jsou významně ovlivněna umělou inteligencí, mají autoři povinnost uvést, že takové video bylo vytvořeno pomocí této technologie. To by mělo pomoci identifikovat deepfake videa a omezit jejich šíření,“ doplňuje ředitel pro technologické standardy společnosti Microsoft.

Je pravda, že zločinci se mohou pokusit obejít tato nařízení, ale snaha regulovat a omezit šíření nevhodného obsahu je důležitá. Měli bychom také věnovat pozornost těm největším platformám, kde se obsah šíří nejvíce, aby bylo možné rychle reagovat na podvodné videa a DeepFake. Pokud máte podezření na podvod, měli byste to nahlásit odpovídajícím orgánům, jako je Policie ČR nebo Evropský úřad pro boj proti podvodům (OLAF). Jsou to kroky, které mohou pomoci chránit uživatele a omezit šíření nebezpečného obsahu.

Pokud vás zajímá celý rozhovor s Daliborem Kačmářem, pusťte si video v úvodu tohoto článku.