Internet se mění. Poznat lež bude náročnější, zvlášť pro „naivní důvěřivce“, varují experti

Technologie postupuje dopředu příliš rychle a lidé jejímu tempu nestačí. S příchodem lepší umělé inteligence (AI) a kvalitních generátorů textu či obrazu hrozí, že se uživatelé internetu čím dál jednodušeji stanou oběťmi dezinformační scény. Obavy neplynou jen z šíření falešných zpráv, ale také z podvodů v e-mailech či na sociálních sítích. „Rozpoznat, co je pravda, co dezinformace a co lež, bude čím dál náročnější,“ uvedli IT experti oslovení redakci CNN Prima NEWS.

Například popularita veřejně dostupného chatovacího nástroje ChatGPT přináší nejen celou řadu skvělých výhod pro rychlejší práci, ale také obrovská rizika. „Chytrý“ generátor textu již nyní podle IT společnosti CheckPoint začínají zneužívat kyberzločinci pro vytváření věrně vypadajících a jazykově téměř bezchybných podvodných e-mailů, příspěvků na sociálních sítích či základních kódů pro škodlivý software. Sami k tomu nepotřebují žádné velké technické znalosti – ChatGPT buď vše udělá za ně, nebo jim dá podrobný návod.

MOHLO BY VÁS ZAJÍMAT: Uživatele sociálních sítí děsí zlá verze ChatGPT. Chtěla vyhubit lidstvo a ovládnout svět

Výsledky práce nástrojů umělé inteligence nejednou předčily i schopnosti samotných kyberzločinců. Někdy jde o bezchybnou napodobeninu zprávy v češtině od tuzemské banky, jindy zase falešné zprávy od nadřízeného. Občas se objeví i sofistikovanější podvody, které vyzývají adresáta ke stažení souboru, v němž se ve skutečnosti skrývá malware. Postupy, jak ukrást přístupové údaje nebo peníze, se tedy nezměnily, jejich zdánlivá důvěryhodnost ovšem ano.

„Dnes nás asi nejvíce ohrožuje schopnost umělé inteligence k vytváření přesvědčivých falešných zpráv nebo phishingových útoků, ke kybernetickým útokům nebo k vytváření deepfakes, které lze použít k oklamání a manipulaci lidí,“ vyjmenoval Dominik Hádl z IT agentury Monstarlab pro redakci CNN Prima NEWS.

Odkazoval se tím na falešné fotky i videa, která můžou některé nástroje „vytvořit na přání“. Z poslední doby někteří uživatelé internetu naskočili například na zatčeného amerického exprezidenta Donalda Trumpa nebo papeže Františka v naducané bílé bundě. Ačkoliv mají k dokonalosti stále daleko, to se může v budoucnu změnit.

„Kriticky smýšlejícího člověka neohrozí a neovlivní. Naivního důvěřivce ano, ale takový je již dnes ohrožen např. přes dezinformátory. Je pravdou, že rozpoznat, co je pravda, co dezinformace a co lež, bude čím dál náročnější. I z toho důvodu sami podporujeme ubrat plyn a nastavit pravidla pro bezpečnější AI,“ řekl redakci také Andrej Svitek, expert na umělou inteligenci ze společnosti Trask.

„Za posledních 12 měsíců jsme svědky zveřejňování nových, robustnějších, rychlejších a kvalitnějších generátorů obsahu, jako jsou ChatGPT nebo Bard. Nicméně zatím nezohledňujeme důsledky současného závodu o vytvoření co nejlepšího modelu, a zapomínáme na otázky bezpečnosti, zneužitelnosti a etiky, které musí jít ruku v ruce s rostoucím výkonem, inteligencí a schopností AI,“ podotkl Milan Kubálek, další odborník Trasku na umělou inteligenci.

Umělá inteligence ještě není dost „inteligentní“

Internetem se občas šíří také apokalyptické scénáře, podle kterých AI připraví řadu lidí o práci. Obavy ovšem podle Kubálka neplynou z umělé inteligence jako takové. Zde je člověk totiž stále pánem situace. „Samotná AI nás zatím nemá jak ohrozit. Dělá pouze to, co jí řekneme, a to na základě informací, které jí předáme a které ji naučíme,“ doplnil.

Umělá inteligence navíc stále není dostatečně „inteligentní“, aby se s ní dalo pracovat jako s člověkem. „Ještě se u ní nepodařilo vyřešit diskriminaci a předsudky, které vznikly kvůli vyškolování na zaujatých datech,“ poznamenal Hádl pro CNN Prima NEWS.