Umělá inteligence představuje vážné riziko pro nadcházející prezidentské volby plánované v USA na rok 2024. Obavy dle expertů oslovených zpravodajskou agenturou AP panují především ohledně zneužití chytrého softwaru k manipulaci a klamání voličů. Za problematickou odborníci označují například schopnost počítačových programů rychle vytvářet falešný obsah v podobě hyperrealistických obrázků, videí nebo zvukových nahrávek, a to s minimálními náklady.
Generativní umělá inteligence dle odborníků dokáže nejen rychle vytvářet cílené e-maily, texty nebo videa na volební kampaně, ale také by mohla být použita k vydávání se za kandidáty a podkopávání voleb, což bylo dosud nevídané. „Nejsme na to připraveni,“ řekl agentuře AP viceprezident kyberbezpečnostní firmy ZeroFox A. J. Nash.
Upozornil zároveň, že když je falešný obsah doprovázen výkonnými algoritmy sociálních médií, může se nejen šířit mnohem rychleji a s větším zásahem, ale také se zacílením na velmi specifické publikum. „Možnosti zvuku a videa, které se objevily, jsou v tomto ohledu velkým skokem vpřed,“ dodal Nash.
ČTĚTE TAKÉ: Léčba s pomocí AI v praxi: Než skončí CT mozku, lékař ví, jestli jde o mrtvici
Experti na umělou inteligenci již předpověděli několik znepokojujících scénářů, ve kterých by se využívala umělá inteligence za účelem matení voličů, šíření pomluv o kandidátech nebo dokonce podněcování k násilí. Mezi předpokládanými případy patří automatizované zprávy robocall hlasem kandidáta, instruující voliče, aby hlasovali v nesprávný den. Podobně mohou být vytvořeny zvukové nahrávky, které by tvrdily, že kandidát se přiznal k trestnému činu nebo vyjádřil rasistické názory.
Další možný scénář zahrnuje videozáznamy, které ukazují konkrétní osobu, jak pronáší projev nebo poskytuje rozhovor, který se nikdy neuskutečnil. V neposlední řadě může jít také o falešné snímky navržené tak, aby vypadaly jako místní zpravodajství, které nepravdivě informuje, že politik z voleb odstoupil.
„Co když vám Elon Musk osobně zavolá a řekne vám, abyste hlasovali pro určitého kandidáta?“ zeptal se Oren Etzioni, zakládající generální ředitel Allen Institute for AI, který loni odstoupil, aby založil neziskovou organizaci AI2. „Spousta lidí by poslechla. A přitom by to nebyl skutečně on,“ myslí si Etzioni.
Hrozba pro americké volby 2024
Ředitel společnosti Forcepoint Petko Stoyanov se domnívá, že využívání umělé inteligence může ovlivnit volby v USA už v roce 2024. „Uvidíme mnoho dezinformací z mezinárodních zdrojů,“ sdělil.
V rámci boje proti nebezpečí umělé inteligence přestavila newyorská demokratka Yvette Clarková ve Sněmovně reprezentantů návrh legislativy, který kandidátům ukládá povinnost přiznat se k politickým reklamám, jež byly v kampani vytvořeny pomocí umělé inteligence. Návrh zákona také vyžaduje přidání vodoznaku s upozorněním na obrázky vytvořené uměle počítačem.
Clarková se prý nejvíce obává, že by umělá inteligence mohla být před volbami v roce 2024 zneužita k vytvoření videa nebo zvuku, který vyzývá k násilí a staví Američany proti sobě. „Je důležité držet krok s technologiemi. Musíme postavit nějaké mantinely, protože umělá inteligence může lidi oklamat a zabere to jen zlomek vteřiny,“ dodala.