Ženy a dívky jako oběti svlékací aplikace
Stačí jediná cizí fotografie, pár kliknutí a do několika vteřin má člověk před sebou falešnou nahou fotku každého, kdo ho napadne. Tak funguje „svlékací aplikace“, která především dívkám dělá posledních několik měsíců hluboké vrásky na čele. Sdílení umělou inteligencí vytvořených fotografií vzalo český internet útokem a policie si s tím příliš neví rady. Jak rozpoznat falešnou nahou fotku? Společně s kyberbezpečnostním expertem Janem Zmítkem ze společnosti Trask přinášíme šest základních bodů, podle kterých se řídit a které jsme otestovali v praxi.
Obětí nepříjemného trendu se stala řada dívek, s některými mluvil také televizní štáb CNN Prima NEWS. „Poslal mi moji nahou fotku. Nejdřív jsem byla v šoku, ale rychle jsem poznala, že se jedná o fake. Ta fotka je totiž z Instagramu,“ uvedla například Karolína. „Bála jsem se, aby se to nedělo holkám na střední škole, které pak mohou mít psychické následky,“ podotkla Sofie, oběť svlékací aplikace.
MOHLO BY VÁS ZAJÍMAT: V Česku řádí svlékací aplikace. Nahá se může ocitnout každá žena, odborníci bijí na poplach
Programů, jež během několika vteřin „vykouzlí“ falešné nahé fotky nic netušících dívek na sociálních sítích, je spousta. Redaktoři jich našli po krátkém procházení internetu desítky – některý byly placené, jiné zcela zdarma a připravené k okamžitému použití. To je samozřejmě problém, protože je může zneužít prakticky každý a kdykoliv a vytvořit z nich třeba nástroj ke kyberšikaně a vydírání.
Existují tedy nějaké cesty, jak rozpoznat „fake nudes“? Nebo indicie, podle kterých by je identifikoval i běžný uživatel? Redakce CNN Prima NEWS sepsala ve spolupráci s expertem na kybernetickou bezpečnost Janem Zmítkem z Trasku šest základních bodů, o které se můžete opřít. Nejsou samospásné – kvalita vygenerovaných fotografií ve velkém záleží na samotné aplikaci. Občas jde o propastné rozdíly, jindy už se dá mluvit o téměř dokonalých replikách.
Pozor na prsty
Nejzákladnější nástroje zdarma možná „svléknou“ osobu na fotografii, ale mnohdy jí způsobí poněkud nechtěné tělesné deformace. Nejčastěji jde o nesedící počet prstů – buď jich pár přebývá nebo naopak ubývá. Jak jsme však zmínili výše, některé svlékací aplikace jsou nicméně o krok dál.
„Bohužel, schopnosti dnešních AI technologií jsou již na velmi vysoké úrovni, do budoucna se kvalita bude dále zvyšovat. Obrazové chyby, jako je šest prstů, se u kvalitních služeb již nevyskytují. V případě ‚fake nudes‘ dochází k úpravě pouze části fotografie, ne generování zcela nové,“ vysvětlil Zmítko.
Občas selže symetrie
Další možnou indicií jsou u dívek například prsa, pakliže se bavíme vyloženě o falešné nahé fotce. „Lidské tělo – a zejména prsa – jsou výjimečně naprosto symetrická,“ potvrdil Zmítko. Pokud máte podezření na falešnou fotku (a nemusí jít vyloženě o nahotinu), není od věci se zaměřit také na detaily očí, uší nosu či vlasů. I tam umělá inteligence občas pochybí. Pokud na dané osobě nejsou pozorovatelné žádné další deformace či pochybnosti, je potřeba se dívat někam jinam.
Signály vydává i pleť
Výstupy redakce CNN Prima NEWS od bezplatných aplikací si většinou nevěděly příliš rady s barvou pleti. Tam, kde bylo původně oblečení, byl například odstín kůže tmavší či světlejší ve srovnání se zbytkem těla (hlavou, krkem nebo končetinami). Místy pak fotografie vypadaly, jako kdyby se dívky opalovaly v solárku. Jde ovšem o chybu, kterou si mohou uživatelé často upravit jiným nástrojem, který barvu kůže „vybalancuje“.
Nedostatky v pozadí či dynamice
Další chyby můžeme nalézt při mnohem detailnějším zkoumání pozadí fotografie. Mnohdy se stane, že nesedí například stíny, které osoba na fotografii vrhá do svého okolí, což lze identifikovat například u profesionálních portrétů. Můžeme se taktéž zaměřit na celkovou fotku.
„Například u dynamického snímku při běhu nebo z úhlu se dají nalézt prvky popírající fyziku. Bohužel, takovou analýzu značně komplikuje kvalita fotografie či kvalita zařízení, na kterém obsah sledujeme,“ poznamenal kyberbezpečnostní expert.
Zkuste zapátrat po zdroji
Pokud máte podezření na falešnou nahou fotografii a shodou okolností znáte osobu, která na ní figuruje, není nic jednoduššího než zamířit na profil na sociálních sítích dané dívky či chlapce. Uživatelé totiž nejčastěji hledají „materiály“ pro svlékací aplikace na otevřených účtech na Facebooku či Instagramu, fotku následně stáhnou a zneužijí. V takovém případě je záhodno upozornit majitele profilů, že někdo používá jejich fotografie pro nekalé úmysly.
Obrana proti takovým aktivitám je jednoduchá i složitá zároveň. „Pokud chceme předejít zneužití, musíme vše, co nahráváme na internet, důsledně chránit, nebo vůbec taková data nepublikovat. To je však v dnešní době, kdy používáme různé sociální sítě, stále složitější,“ konstatoval Zmítko.
Souboj umělých inteligencí
Občas je potřeba ohněm bojovat proti ohni. Existuje několik nástrojů umělé inteligence, které dokážou analyzovat a identifikovat obsah, který byl vytvořen uměle. „Nástroje jako Winston AI Content Detector nebo Hive AI Classifier existují. Otázkou je, jaká je reálná úspěšnost detekce. Zároveň tyto technologie nejsou prozatím optimalizované pro použití na mobilních zařízeních,“ doplnil odborník z Trasku.
Vím, že samotné prokazování zneužití je velmi komplikované. Obecně legislativa nejde úplně s dobou, co se týče aktuálních technologických trendů.
A co na to policie?
Každý, kdo se stane obětí uživatelů svlékacích aplikací, by se měl obrátit na policii. Ta už nyní eviduje několik podobných případů, už mají představu i o trestněprávní kvalifikaci. „Bavíme se zde o přestupku, stejně jako o možnosti trestného činu spojeného například s vydíráním, pokud jsou do něj zatažení třeba nezletilí,“ uvedl mluvčí policie Jozef Bocán.
Ruka zákona zde bohužel tahá za kratší provaz. „Vím, že samotné prokazování zneužití je velmi komplikované. Obecně legislativa nejde úplně s dobou, co se týče aktuálních technologických trendů. Celkově AI technologie nejsou zatím téměř nijak regulované a je to veřejně velmi živé téma, jak a jestli regulovat AI,“ sdělil na závěr Zmítko.
Kyberbezpečnosti, moderním technologiím i videohrám se věnujeme také v pořadu Enter, který můžete sledovat každou sobotu ve 22:40 či reprízově každé úterý ve 23:40 na CNN Prima NEWS. Odvysílané epizody najdete na webu CNNPrima.cz. Nejnovější díl můžete zhlédnout níže:
