Svlékací AI aplikace deptají české děti. Odborníci se bojí, že místo fotek brzy dorazí videa
Umělá inteligence je už běžnou součástí našich životů. Vedle užitečných věcí ale přináší vážné hrozby, třeba „deep fake nudes“, tedy realisticky vypadající falešné nahé fotografie. Z běžných obrázků oblečených lidí vytvoří jejich nahou variantu, která působí velmi přesvědčivě. Pokud se obětí takového podvodu stane dítě nebo dospívající, může mu to podle odborníků způsobit vážné psychické potíže.
Stačí stáhnout fotku oblečené postavy z internetu a za pár vteřin je nahá. Svlékací aplikace jsou ve velkém využívány vyděrači, a to často v případě dětí nebo mladých lidí.
ČTĚTE TAKÉ: Veřejnoprávní média si výrazně pohorší. Peníze zajistí stát, lidé budou moci platit dobrovolně
Koordinátor Safer Internet Centra Martin Kožíšek upozorňuje, že největší riziko spočívá v rychlém šíření takového obsahu. „Ta nebezpečnost spočívá ve virálnosti, ve chvíli, kdy někdo takový materiál vytvoří, tak se velmi rychle šíří, a to u dětí i dospělých. Ono to dost často vzniká jako žert, který se potom vymkne kontrole, takže za tím můžeme hledat kamarády, blízké okolí, třídu, ale v některých případech za tím může být nějaký neznámý člověk.“
„Podle kontury vašeho obličeje dokáže odhadnout statisticky, jak by měly vypadat některé části vašeho těla a je to velmi, velmi důvěryhodné, téměř k nerozeznání. Dneska už říkám téměř, protože ani kyberbezpečnostní experti to nepoznají. Ani experti na grafiku a média. Zároveň však vzniká nová umělá inteligence, která se snaží odhalovat, jestli byla při vytvoření videa použita umělá inteligence, nebo ne,“ řekl redakci CNN Prima NEWS Miloslav Lujka, expert na kyberbezpečnost.
Čtěte také
Podle Ondřeje Hlaváče z AI Institute může dnes podobný obsah vytvořit prakticky kdokoliv během několika vteřin. S rostoucí kvalitou navíc podle něj klesá šance na odhalení. „Trošku se bojím, že se to přesune do video roviny. Už tady máme studia, která generují AI filmy, proč bychom nemohli mít AI porno – v tom negativním slova smyslu,“ sdělil.
„Kybermonokl“ bolí
Nejčastější formou agrese je podle průzkumu mezi více než 53 tisíci dospívajícími slovní ubližování. Následuje šíření ztrapňujících fotografií a vyhrožování. Chlapci navíc častěji než dívky uvádějí, že jejich snímek někdo vysvlékl pomocí umělé inteligence. Takové případy navíc často vedou k vydírání. To zažilo 60 procent dívek, u chlapců číslo dosahovalo dokonce 73 procent.
„Ono se říká, že kybermonokl nebolí, ale já mám obavu, že to bolí možná víc než ta klasická šikana, takže bych to nepodceňoval,“ dodává Kožíšek.
Evropská unie se snaží situaci řešit i legislativně, upozorňuje Hlaváč: „Evropský parlament naštěstí teď odhlasoval zákon, nebo respektive je to v nějaké legislativní fázi, kdy bude poskytovatelům těchto aplikací nebo služeb zakázáno svlékání pomocí umělé inteligence bez vědomí nebo schválení toho člověka. Bohužel těch modelů je ale takové množství, že nemůžeme kontrolovat celý trh.“
MOHLO BY VÁS ZAJÍMAT: Smůla mladého zloděje. V Popradu si vyhlédl dům místního „Jackieho Chana“
