Ilustrační foto: deepfakes Zdroj: @mrfanweb/Twitter
Čína vydala nové nařízení zakazující poskytovatelům videa a zvuku používání technologií umělé inteligence (AI) a virtuální reality k výrobě falešných zpráv („fake news“). Všechny audio a video soubory vyrobené pomocí AI nebo virtuální reality mají být od ledna označeny, aby varovaly uživatele. Informovala o tom agentura AFP.
Nařízení zveřejněné v pátek čínským úřadem pro kyberprostor uvádí, že jak poskytovatelé, tak uživatelé online video zpráv a audio služeb nemají povoleno používat nové technologie, jako jsou hluboké učení (deep learning) nebo virtuální realita k tvorbě, distribuci a vysílání „falešných zpráv“.
Cokoliv od chyby po parodii a úmyslně nesprávnou interpretaci
„Falešné zprávy“ byly zobecněny jako cokoliv od chyby po parodii a úmyslně nesprávnou interpretaci skutečností. Nařízení vejde v platnost 1. ledna 2020. Nedodržení tohoto nařízení může být považováno za trestný čin, uvedla Čínská správa pro kybernetický prostor (CAC) bez poskytnutí podrobností o trestech.
Nařízení vyžaduje po poskytovatelích, aby video a audio nahrávky vytvořené za pomoci technologií umělé inteligence nebo virtuální reality byly označeny zřetelnými štítky (značkami) varujícími uživatele. Nový předpis zvláště zdůrazňuje nebezpečí takzvaných „deepfakes“ (hlubokých padělků) a technologií, které manipulují s videi, aby vypadala věrohodně, ačkoliv zachycují události nebo projevy, které se nikdy nestaly.
Deepfakes mohou ohrozit národní bezpečnost
Deepfake technologie mohou „narušit sociální pořádek a poškodit zájmy lidí, vytvářet politická rizika a přinášet negativní vliv na národní bezpečnost a sociální stabilitu,“ varoval úřad. Čínský nejvyšší legislativní orgán již dříve v tomto roce uvedl, že zvažuje postavení technologií pro tvorbu deepfakes mimo zákon.
V září vedla k vyhrocené debatě ohledně možného zneužití deepfakes technologií čínská aplikace Zao umožňující uživatelům přesvědčivě překrýt jejich vlastní tvář některou z tváří filmových nebo seriálových postav.
