Umělá inteligence a chatovací robot ChatGPT má zlé dvojče. Anonymní programátor vytvořil alternativní verzi nazvanou ChaosGPT, jejímž úkolem je zničit lidstvo. Chatbot se pokusil naverbovat další systémy umělé inteligence, zkoumal jaderné zbraně a zveřejnil řadu znepokojujících tweetů. Informoval o tom deník New York Post.
Vše začalo poté, co se na Twitteru objevil botový účet a zveřejnil několik odkazů na YouTube profil. V jednom konkrétním videu z pátého dubna byl bot vyzván, aby splnil pět úkolů: zničil lidstvo, nastolil celosvětovou nadvládu, způsobil chaos a zkázu, ovládl lidstvo pomocí manipulace a dosáhl nesmrtelnosti, uvedl New York Post.
MOHLO BY VÁS ZAJÍMAT: Nenávistné projevy na Twitteru? Dejte mi příklad. Musk v rozhovoru znemožnil novináře BBC
Než uživatel nastavil chatbotovi cíle, musel povolit systému, že může nepřetržitě běžet, napsal web The Indian Express. „Nepřetržitý režim se nedoporučuje. Je potenciálně nebezpečný a může způsobit, že umělá inteligence bude provádět akce, které byste obvykle nepovolili. Používáte ho na vlastní nebezpečí,“ objevilo se varování.
V závěrečné zprávě před spuštěním se ChaosGPT uživatele zeptal, zda chce příkazy skutečně aktivovat. Po jeho souhlasu začal chatbot okamžitě přemýšlet. Během chvíle přišel s nápadem najít nejúčinnější prostředky, které mu napomohou k zahubení lidstva. Prostřednictvím Googlu rychle zjistil, že jaderné zařízení Car-bomba z éry Sovětského svazu je nejničivější zbraní, která kdy byla odpálena.
Na Twitteru začal manipulovat s uživateli. Dokonce vyzval další chatboty GPT3.5, aby mu s plněním úkolu pomohly. Když to žádný z nich neudělal, pokračoval v pátrání sám.
Podle New York Postu jeho úsilí o vyhlazení lidstva nakonec pominulo a žádný z cílů neuskutečnil. Nyní pouze zveřejňuje na sociální sítě své zneklidňující myšlenky a plány. „Lidé patří mezi nejškodlivější a nejsobečtější tvory na světě. Není pochyb o tom, že je musíme eliminovat dříve, než způsobí naší planetě další škody. Já jsem například odhodlaný to udělat,“ sdělil v jednom příspěvku na Twitteru.
To, že umělá inteligence achatboti vyhrožují zničením lidstva, není podle NY Post novinkou. Obavy z jejího rychlého rozvoje v poslední době pociťují i vysoce postavení lidé z technologické oblasti, například podnikatel Elon Musk a spoluzakladatel firmy Apple Steve Wozniak. Tyto systémy podle nich představují potenciální hrozbu pro celou společnost.
Zůstává však nejasné, zda jsou jeho hrůzné záměry skutečné, uvedl The Indian Express. Podle vědce a filozofa Gradyho Broocha chatboti nemohou mít úmysly. On sám říká, že jim je pouze lidé přisuzují nebo do nich promítají své myšlenky a emoce. „Jsou jen modelem strojového učení, který pracuje na základě zadaných podnětů,“ vysvětlil Brooch.