Odborník Bruna o nebezpečích podvodných deepfake videí
Provozovatel Facebooku a Instagramu plánuje navrátit funkci rozpoznávání tváří. Od technologie si slibuje lepší boj s podvodnými reklamami využívající identity celebrit a též větší zabezpečení účtů svých uživatelů. Staronový systém však budí kontroverze ohledně zneužití, píše web ABC.
Americký gigant Meta, provozující sociální sítě Facebook a Instagram, chce rozpoznáváním obličejů skoncovat s deepfake obsahem v reklamách. Zároveň si od kontroverzní funkce slibuje i lepší zabezpečení pro běžné uživatele, píše australský web ABC.
K TÉMATU: Tvorba deepfake videa zabere pár minut, varovala expertka. Jak pomůže AI v odhalování UFO?
Technologie porovná fotografie použité v inzerovaných příspěvcích, které jsou již značené jako pochybné, s profilovými fotkami celebrit na Facebooku či Instagramu. V případě shody dojde k automatickému smazání reklamy.
Běžný uživatel sociálních sítí bude technologii využívat v případě ztráty či nedostupnosti svého účtu. Když majitel ztratí přístup na svůj profil, odešle selfie fotografii ověřující pravost vlastnictví. Meta chce tímto krokem zatočit s krádeží účtů na sociálních sítích.
Kontroverzní funkce, která tu už byla
Rozpoznávání tváří je však dvojsečnou zbraní, která už společnosti způsobila potíže, připomíná ABC. V roce 2021 společnost prvek odstavila kvůli problémům se soukromím uživatelů a musela zaplatit pokutu ve výši 650 milionů amerických dolarů (přes 15 miliard korun), napsal technologický web The Verge.
David Agranovich z Mety znovuzavedení funkce obhajuje s tím, že veškerá data a selfie budou zašifrována a bezpečně uložena. „Videa a selfie budeme používat pouze k ověřování identity a udržování bezpečnosti v naší komunitě," upřesňuje.
„Očekáváme, že nám to umožní rychleji zachytit obsah porušující pravidla, a zároveň budeme moci zabraňovat většímu množství podvodných aktivit, než které zaznamenáváme teď," pokračoval.
Mark Andrejevic, profesor digitální komunikace z australské univerzity Monash, pochybuje o celkovém smyslu systému. Podle něj provozovatel moc dobře ví, že podvodníci zneužívají image celebrit a nevidí žádný důvod k implementaci nástroje. „Opravdu je nutné používat rozpoznávání obličejů, anebo se jedná o pouhou nadbytečnost?“ řekl expert webu ABC.
Společnost tvrdí, že testovací verze systému se osvědčila a brzy bude zpřístupněna většímu množství veřejně známých figur. Funkce však nebude kvůli regulacím okamžitě dostupná uživatelům v EU a Velké Británii.
Tváře podnikatelů i politiků
S identifikací falešného obsahu zneužívajícího něčí image už pomáhá umělá inteligence, avšak podvodníci se situaci přizpůsobují a své metody zlepšují. „Scammeři jsou vytrvalí a zdokonalují své taktiky, aby se vyhnuli detekci,“ přiznává Agranovich. Technologický gigant doufá, že jeho staronový nástroj pomůže vylepšit jejich ochranu.
Jednou z oblíbených obětí scammerů bývá podnikatel Elon Musk, dodává web BBC. Jeho image bývá zneužívána zejména k propagaci kryptoměn. Americký miliardář však sám bývá označován za šiřitele nepravdivého obsahu, připomíná americká CNN video vygenerované umělou inteligencí, v němž se útočí na americkou viceprezidentku a kandidátku o Bílý dům Kamalu Harrisovou.
Dalším pravidelným cílem je finanční expert a novinář Martin Lewis, který se již léta objevuje ve falešných videích propagujících investiční poradenství. Ten v roce 2018 dokonce na Facebook kvůli stejnému problému podal žalobu, doplňuje BBC.
Problém se zneužíváním tváří veřejně známých osobností existuje i v tuzemsku. Oběťmi deepfaků se dokonce stali i moderátoři CNN Prima News. Díky dostupnějším a pokročilejším technologiím se stává snazší vytvořit falešný obsah zneužívající cizí identitu. Náš web představil pět rad, jak se nenechat ošálit podvodným obsahem.
