Odborník Bruna o nebezpečích podvodných deepfake videí
Provozovatel Facebooku a Instagramu plánuje navrátit funkci rozpoznávání tváří. Od technologie si slibuje lepší boj s podvodnými reklamami využívající identity celebrit a též větší zabezpečení účtů svých uživatelů. Staronový systém však budí kontroverze ohledně zneužití, píše web ABC.
Americký gigant Meta, provozující sociální sítě Facebook a Instagram, chce rozpoznáváním obličejů skoncovat s deepfake obsahem v reklamách. Zároveň si od kontroverzní funkce slibuje i lepší zabezpečení pro běžné uživatele, píše australský web ABC.
K TÉMATU: Tvorba deepfake videa zabere pár minut, varovala expertka. Jak pomůže AI v odhalování UFO?
Technologie porovná fotografie použité v inzerovaných příspěvcích, které jsou již značené jako pochybné, s profilovými fotkami celebrit na Facebooku či Instagramu. V případě shody dojde k automatickému smazání reklamy.
Dívka se střelila do hlavy kvůli catfishingu. Ze záznamu volání na tísňovou linku mrazí
Záznam z tísňového volání odhaluje zoufalý boj o život dvanáctileté Cimarron Thomasové ze Spojených států, která si vzala život poté, co se stala obětí vydírání on-line predátorem Alexanderem McCartneyem. V dramatickém hovoru operátor naviguje souseda, jak dívce, která se střelila do hlavy zbraní svého otce, poskytnout první pomoc. Informoval o tom web Daily Mail. McCartney, který stojí za smrtí dívky, byl v pátek odsouzen na doživotí.
Běžný uživatel sociálních sítí bude technologii využívat v případě ztráty či nedostupnosti svého účtu. Když majitel ztratí přístup na svůj profil, odešle selfie fotografii ověřující pravost vlastnictví. Meta chce tímto krokem zatočit s krádeží účtů na sociálních sítích.
Kontroverzní funkce, která tu už byla
Rozpoznávání tváří je však dvojsečnou zbraní, která už společnosti způsobila potíže, připomíná ABC. V roce 2021 společnost prvek odstavila kvůli problémům se soukromím uživatelů a musela zaplatit pokutu ve výši 650 milionů amerických dolarů (přes 15 miliard korun), napsal technologický web The Verge.
David Agranovich z Mety znovuzavedení funkce obhajuje s tím, že veškerá data a selfie budou zašifrována a bezpečně uložena. „Videa a selfie budeme používat pouze k ověřování identity a udržování bezpečnosti v naší komunitě," upřesňuje.
„Očekáváme, že nám to umožní rychleji zachytit obsah porušující pravidla, a zároveň budeme moci zabraňovat většímu množství podvodných aktivit, než které zaznamenáváme teď," pokračoval.
Mark Andrejevic, profesor digitální komunikace z australské univerzity Monash, pochybuje o celkovém smyslu systému. Podle něj provozovatel moc dobře ví, že podvodníci zneužívají image celebrit a nevidí žádný důvod k implementaci nástroje. „Opravdu je nutné používat rozpoznávání obličejů, anebo se jedná o pouhou nadbytečnost?“ řekl expert webu ABC.
Fikce nebo realita? Na rozpoznání deep fake už lidé brzy nebudou stačit
Pravda nebo nikoli? Stěžejní zamyšlení pro náš další článek. Řeč v něm bude o deepfake a o tom, že technologie už pokročila natolik, že i zkušení specialisté mohou mít časem problém ji rozpoznat. A skutečně se vývojáři kvůli AI bojí o práci? I to je téma, o kterém se mluví v dalším díle pořadu ITN ONAIR, podobně jako o modrém světle a jeho škodlivosti na lidský spánek a zdraví, což prý poslední studie vyvracejí. Jak to je a opravdu stačilo málo a světoznámá hra Stray nevznikla? Čtěte následující řádky a zjistěte, jak se věci (ne)mají.
Společnost tvrdí, že testovací verze systému se osvědčila a brzy bude zpřístupněna většímu množství veřejně známých figur. Funkce však nebude kvůli regulacím okamžitě dostupná uživatelům v EU a Velké Británii.
Tváře podnikatelů i politiků
S identifikací falešného obsahu zneužívajícího něčí image už pomáhá umělá inteligence, avšak podvodníci se situaci přizpůsobují a své metody zlepšují. „Scammeři jsou vytrvalí a zdokonalují své taktiky, aby se vyhnuli detekci,“ přiznává Agranovich. Technologický gigant doufá, že jeho staronový nástroj pomůže vylepšit jejich ochranu.
Jednou z oblíbených obětí scammerů bývá podnikatel Elon Musk, dodává web BBC. Jeho image bývá zneužívána zejména k propagaci kryptoměn. Americký miliardář však sám bývá označován za šiřitele nepravdivého obsahu, připomíná americká CNN video vygenerované umělou inteligencí, v němž se útočí na americkou viceprezidentku a kandidátku o Bílý dům Kamalu Harrisovou.
Dalším pravidelným cílem je finanční expert a novinář Martin Lewis, který se již léta objevuje ve falešných videích propagujících investiční poradenství. Ten v roce 2018 dokonce na Facebook kvůli stejnému problému podal žalobu, doplňuje BBC.
Problém se zneužíváním tváří veřejně známých osobností existuje i v tuzemsku. Oběťmi deepfaků se dokonce stali i moderátoři CNN Prima News. Díky dostupnějším a pokročilejším technologiím se stává snazší vytvořit falešný obsah zneužívající cizí identitu. Náš web představil pět rad, jak se nenechat ošálit podvodným obsahem.
