Deepfake útoky: Každý si je dnes může vyrobit za pár minut, varují experti z ESETu
Hosty podcastu RESET byli Ondrej Kubovič ze společnosti ESET a Roman Číhalík, ze spolku NELEŽ. Zdroj: CNN Prima NEWS
Falešná videa a audionahrávky vytvořené umělou inteligencí už nejsou jen doménou technologických laboratoří nebo filmového průmyslu. Dnes si je může vyrobit prakticky každý – během pár minut v mobilním telefonu. O tom, jak deepfaky vznikly, jak se využívají k manipulaci veřejnosti, podvodům i osobní dehonestaci, a proč jsou tak nebezpečné, mluvili v pořadu CNN Prima News Ondrej Kubovič ze společnosti ESET a Roman Číhalík ze spolku Nelež.
„Deepfaky jsou falešné nahrávky – video nebo audio – které vytvořila umělá inteligence,“ vysvětluje Ondrej Kubovič z ESETu. „Cílem může být pobavit, ale i záměrně zmást diváka, protože se velmi podobají realitě – obličeji či hlasu konkrétní osoby. Ve skutečnosti jsou ale zcela vygenerované.“
Roman Číhalík doplňuje, že původní využití mělo spíše hravý nebo satirický charakter: „Na začátku šlo o zábavu – výměnu obličejů, vtipné memy. Ale už první deepfaky často využívaly tváře známých osobností v pornografickém obsahu. A velmi rychle se našla i cesta k manipulaci a dezinformacím, kdy publikum váhalo, co je pravda a co ne.“
Od filmových triků k hrozbě pro demokracii
Technologie připomínající deepfake se ve filmovém průmyslu objevila už dříve, například při „nasazování“ obličejů na těla kaskadérů. Moderní deepfaky, jak je známe dnes, se ale podle Kuboviče objevily těsně před pandemií, kolem roku 2017–2018, na sociální síti Reddit. „Původní tvůrce si říkal ‚deepfakes‘ a využíval metodu hlubokého učení. Už tehdy vkládal tváře známých herců do pornografie. Výjimkou byl Nicolas Cage, s nímž vytvářel jen humorná videa.“
Tři hlavní kategorie hrozeb
Finanční podvody – například falešná investiční videa s tvářemi známých osobností, často spojená s kryptoměnami.
Politická manipulace – snaha ovlivnit volby či veřejné mínění.
Osobní dehonestace – útoky na pověst konkrétní osoby, často s využitím pornografického obsahu.
Technologie v kapse: deepfake během přestávky
Zatímco dříve výroba deepfake videa vyžadovala čas, technické znalosti a výkonný hardware, dnes je dostupná komukoliv. „Dnes si běžný uživatel může za malý poplatek natrénovat model na svůj hlas nebo hlas stažený z internetu – stačí pár minut čistého záznamu,“ říká Kubovič. Kvalita roste a videa jsou čím dál hůř rozpoznatelná.
Číhalíka děsí zejména demokratizace technologie: „To, že si každý může udělat deepfake na telefonu během tří minut na záchodě, je nebezpečné. Můžete tím poškodit kolegu, spolužáka, kohokoliv. A lidé už dnes nezkoumají, jestli pohyb úst sedí, prostě tomu uvěří.“
Děti v první linii
Podle Kuboviče jsou školy jasným indikátorem, že počet incidentů roste. „Ještě před třemi lety byste případy falešných pornografických videí se spolužačkami spočítali na prstech. Dnes vám velká část škol potvrdí, že takové problémy řeší. Následky pro oběti mohou být dlouhodobé a psychicky devastující.“
Deepfake mění volby i účty v bance
Oba experti upozorňují, že k ovlivnění voleb není nutné zasáhnout většinu populace. „Někdy stačí ovlivnit stovky voličů v menších obcích desítky,“ říká Kubovič. „Na Slovensku jsme před volbami zaznamenali deepfake telefonát mezi lídrem opozice a novinářkou – falešný, ale mohl přesvědčit dost lidí, aby to změnilo výsledky.“
Podobně se deepfaky zneužívají i k finančním útokům. Útočníci vytvoří realistické video, kde například prezident Petr Pavel „doporučuje“ investici s garantovaným ziskem. „Pak vás po telefonu manipulují tak dlouho, dokud sami nepošlete peníze,“ popisuje Kubovič.
Jak se bránit: vzdělání i technologie
„Tři pětiny lidí nedokážou poznat deepfake,“ uvádí Číhalík s odkazem na průzkum. „Základem je mediální a finanční gramotnost, znalost toho, že politici obvykle nedělají reklamu na investiční produkty a ověřování faktů z více zdrojů.“
Kubovič dodává, že existují i technologické nástroje – od antivirových programů po blokaci phishingových stránek. Klíčová je ale odpovědnost platforem, které mohou nebezpečné kampaně odhalit a zastavit. „Je to ale hra na kočku a myš – útočníci mění taktiku, aby se detekci vyhnuli.“
Rychlá reakce je zásadní
Pokud se stanete obětí, experti doporučují video zdokumentovat, kontaktovat policii a jasně komunikovat se svým publikem, co se stalo. „Firmy i jednotlivci by měli mít připravený krizový plán. Pokud nezareagujete během hodin, už jen malá část lidí uvidí vaše vysvětlení,“ varuje Kubovič.
Celý díl pořadu RESET, včetně analýz a ukázek konkrétních útoků, je dostupný na oficiálním YouTube kanálu společnosti ESET. Bonusová část nabízí i detailní pohled na budoucí vývoj deepfakes nebo informace o tom, jak se snaží nadnárodní společenství tuto hrozbu regulovat.
