Skvělý pomocník, či hrozba světového kalibru? Chatbot si vymýšlí, nahrává dezinformátorům
Zeptali jsme se robota, co by dělal v případě zneužití dezinformátory. Zdroj: CNN Prima NEWS
ChatGPT – schopný a počítačem řízený konverzační parťák či obstojný nástroj pro extrémně rychlé vytváření textů se stal internetovým fenoménem. Popularity se dočkal i u nás – díky tomu, že umí obstojně česky. Už nyní ale tato povedená služba může představovat problém. Sama si totiž neověřuje pravost ani správnost dat, což nahrává dezinformátorům pro generování textů takříkajíc „na přání“. „Zde více než obvykle platí, že stokrát opakovaná lež se stává pravdou,“ varují oslovení experti na technologie.
Mnohdy se o službě ChatGPT mluví jako o umělé inteligenci (AI, anglicky artificial intelligence), na čemž se ale mnozí odborníci zcela neshodnou. Důvodů je vícero. „ChatGPT je založený na bázi velké zásoby dat a pravděpodobnosti. Sám o sobě tedy nepřemýšlí nebo neinovuje, a proto jsou vedeny spory o tom, do jaké míry se jedná o umělou inteligenci. Nicméně tento software je určitě nejblíže k AI, co se lidem zatím podařilo vymyslet,“ vysvětlil redakci Dominik Hádl, IT expert a klíčová osoba ve vedení technologicko-konzultační společnosti Monstarlab.
V praxi funguje tak, že za sebou skládá nejpravděpodobnější a nejvhodnější slova ze své kolosální databáze. Na otázku „kdo jsem“ tak ve většině případů odpoví nejprve slovem „já“, po němž bude následovat „jsem“ a tak dále. Díky tomu, že si stroj umí vyhodnotit kontext otázky a okruh témat, tak zvládne konverzovat téměř jako člověk – a to téměř bez chyb. Stále se ovšem nejedná o umělou inteligenci v pravém slova smyslu, jak potvrdil také AI expert Milan Kubálek ze společnosti Trask.
MOHLO BY VÁS ZAJÍMAT: Mám poruchu zraku, tvrdil robot. Zneužil člověka a bez problémů se dostal, kam neměl
„Záleží, jak se díváme na definici. Obecně uznávaná definice spočívá v tom, že se umí sama učit a rozhoduje se, co se bude učit. ChatGPT je velmi mocný nástroj, který odpovídá na to, co ho lidé naučili, tj. jaké vstupy mu předali k naučení. Nástroj sám o sobě nic nového nevymyslí, a k obecné umělé inteligenci má velmi daleko, jakkoliv jde o významný počin s potenciálem zásadně změnit a ovlivnit naše životy,“ přiblížil problematiku pro CNN Prima NEWS.
Čtěte také
Schopnosti ChatGPT jsou už nyní nicméně nesporné. Bleskurychle dokáže v češtině vygenerovat shrnutí odborné literatury v takovém rozsahu, jaký si řekne sám zadavatel, vybrat nejlepší recept na bábovku nebo srovnat výhody a nevýhody dvou různých ledniček podle uživatelských recenzí.
„Oproti člověku má možnost analyzovat veškeré relevantní údaje, které jsou dostupné v elektronické podobě. Rychle, konzistentně a kvalitně, 24 hodin denně a sedm dní v týdnu. V dnešní době se jedná hlavně o text. V budoucnu se nejspíše přidají také informace obsažené v obrázcích, videích a podobně. Obecně zvládne také opakující se úkoly, které jsou aplikované na nových datech. Jde například o rešerše novinek v různých oblastech za uplynulý měsíc nebo návrh standardizovaných dokumentů, jako jsou kupní a nájemní smlouvy,“ doplnil svého kolegu z Trasku odborník na umělou inteligenci Andrej Svitek.
Užitečná pomůcka ovšem není všemocná, za určitých okolností ani pravdomluvná – vše totiž záleží na tom, jakými daty ji člověk „nakrmí“. „Jak napovídá název GPT (generative pre-trained transformer), jeho schopnosti se odvíjí od toho, jak a na čem byl vycvičen. Jestliže byl vytrénován na obsahu on-line diskuzí, je dost možné, že bude více inklinovat k dezinformacím nebo že bude prostě nějak jinak zaujatý. Druhý problém trošku spočívá i v nepochopení nástroje jeho uživateli. Často mu přikládají více schopností, než skutečně má,“ upozornil Hádl z Monstarlabu.
Vymýšlí si, neověřuje si
Jelikož nástroj pracuje s pravděpodobností a predikcí, často dělá faktické chyby a „vymýšlí si“. Jako příklad uvedl Hádl reference o literatuře – noční můrou všech vysokoškolských studentů při psaní diplomových prací.
Čtěte také
„K dílu a autorovi místo roku vydání přiřadí rok, kdy bylo dílo nejvíce citováno nebo popularizováno. Z mnoha získaných dat ve formě on-line zmínek mu totiž vyjde, že je to nejpravděpodobnější rok vydání knihy,“ demonstroval český IT expert, kterého kdysi lanařil i Mark Zuckerberg.
Problém služby zkrátka je, že prakticky neověřuje správnost svých odpovědí a na lusknutí prstu servíruje uživatelům to, co nejčastěji nalézá ve své databázi. Bez lidské kontroly se tak stále neobejde. „ChatGPT může vykazovat předpojatost ve svých odpovědích na základě dat, na kterých byl vyškolen. To může udržovat a posilovat stávající společenské předsudky,“ konstatoval také Kubálek.
Svitek z Trasku podotkl, že nástroji rovněž chybí základní lidské elementy, které by mu pomohly pochopit některé souvislosti – především jde o emoce či „zdravý rozum“. ChatGPT dále vychází ze starých informací a „neučí se“ z aktuálních dat, což omezuje jeho schopnost přesně a smysluplně reagovat na současné dění.
„Stávající verze vychází pouze z dat do září roku 2021. Nová verze, na které se již pracuje, bude údajně schopná mimo jiné lépe reagovat na nová a průběžně vznikající témata. Nejedná se však o zásadní technologický problém. Mimo to ChatGPT umí reagovat pouze na témata, na která je natrénován. Nic nového nevymyslí, protože není kreativní. Jde o velmi pokročilý a komplikovaný model, který pracuje se statistikou. Samozřejmě má obrovský potenciál ovlivnit způsob, jakým bude společnost v budoucnu pracovat a fungovat. Stále se ovšem nejedná o umělou inteligenci,“ uzavřel Svitek.
Proti dalšímu vývoji brojí Musk i akademici
Ne všichni jsou z čím dál dokonalejšího chatovacího nástroje nadšení. Stovky akademiků, expertů a podnikatelů zapojených do vývoje umělé inteligence včetně miliardáře Elona Muska v novém prohlášení volají po nejméně půlročním pozastavení vývoje nových modelů s ohledem na „hluboká rizika pro společnost a lidstvo“. Apel přichází po měsících překotného vývoje v oboru.
Již nyní umělá inteligence a generátory dokážou velice věrně pracovat s obrázky či zvukovými stopami připomínající hlasy skutečných lidí. Vývoj proto vyvolává obavy mimo jiné ze záplavy dezinformací a podvodů založených na autenticky vypadajících vizuálních a zvukových materiálech.
Viet Tran pracoval pět let jako redaktor na webu Echo24.cz. Několik let řídil magazínové sekce herních projektů SkillZone.cz a Battleforce.cz, poté spoluzaložil občasník Cooldown.cz. Média vystudoval na Univerzitě Karlově, diplomovou práci zpracovával v Japonsku, kterému se profesně věnuje do současnosti.
