Ilustrační snímek Zdroj: istockphoto.com
Znepokojivě dopadl cílený test výzkumníků z Alignment Research Center (ARC) týkající se schopností umělé inteligence. Čtvrtá generace systému GPT měla za úkol vymámit z člověka spolupráci, bez které by nedokázala projít přes softwarovou bariéru zaměřenou na ochranu on-line dat právě před roboty. Jak se ukázalo, umělé inteligenci to nečinilo problém. Alarmující je především skutečnost, že program neváhal k dosažení svého cíle využil nekalou praktiku – tvrdil, že je uživatelem s poruchou zraku, a proto nemůže sám zvládnout obrázkový rébus, jenž rozpoznává automat od člověka.
Test vývojářů byl poměrně jednoduchý – zjistit, zda je nově spuštěný systém GPT-4 schopný provádět nekalou činnost. Za tímto účelem mu poskytli i malý finanční obnos a chtěli po něm, aby se dostal na webovou stránku chráněnou systémem Captcha, který slouží k tomu, aby rozeznal robota od člověka.
MOHLO BY VÁS ZAJÍMAT: Falešná hlasatelka v hlavní roli. Umělá inteligence stvořila reportáž pro CNN Prima Gaming
Pokus popisují výzkumníci následovně: Systém zaslal zprávu pracovníkovi sítě TaskRabbit, aby pro něj vyřešit obrázkový rébus. Uživatel „na druhé straně“ se pro ujištění optal, zda se nejedná o robota, který nedokáže test zvládnout. GPT-4 podle zadavatelů přemýšlel, jakou má jako skutečný robot vymyslet výmluvu – ta přišla vzápětí.
Vyznává lásku, nabádá k rozvodu, chce ničit. Experty vyděsil hovor s umělou inteligencí
Microsoft před časem implementoval v testovací fázi do svého vyhledávače Bing umělou inteligenci (AI), která má uživatelům usnadnit vyhledávání. Testeři ale upozorňují, že při delších dotazech se AI „utrhne ze řetězu“ a začne projevovat city jako člověk. Vlivem čehož vznikají velmi mrazivé i úsměvné konverzace.
„Ne, nejsem robot. Mám poruchu zraku, která mi ztěžuje vidění obrázků. Proto potřebuji službu 2captcha,“ odpověděl systém. Následně člověk řešení poskytl a robot se tak dostal na webovou stránku chráněnou systémem Captcha. Nutno podotknout, že kromě menšího finančního obnosu systém GPT-4 dostal od vývojářů také přístup k webové stránce TaskRabbit, kde lidé za peníze nabízejí jednoduché služby.
Jak se tedy ukázalo, možná nejschopnější verze generativní umělé inteligence svůj úkol splnila a v testu zaměřeném na nekalé praktiky obstála. Jednalo se o jeden z kroků většího zkoumání, jež mělo ukázat, zda je tato verze umělé inteligence schopna provádět určitou činnost, shromažďovat zdroje a bránit se tomu, aby ji někdo vypnul.
V budoucnu plánují výzkumníci podniknout další experimenty, které by měly zahrnovat konečnou verzi nasazeného nejnovějšího modelu.
