Jaderná válka? Pro umělou inteligenci jen hra, míní experti. Obavy jsou na místě, AI bude lhát

Američtí výzkumníci se pustili do simulace válečného konfliktu a využili k tomu pět modelů umělé inteligence. Výsledky je ale vyděsily. AI nástroje neváhaly odpálit jadernou zbraň. Vedoucí pracovní skupiny z České asociace umělé inteligence Alexander Bruna v pořadu Co na to vaše peněženka na CNN Prima NEWS podotkl, že záleží, jak vědci zadali umělé inteligenci pokyn. „Nástroj, který je aktuálně dostupný, má nějaký omezený kontext. Samozřejmě nemohl vidět všechny dopady toho, co udělal, a nejspíš to vnímal jako hru. Výzkumníci mu to totiž museli vložit jako nějaký způsob hry, protože jsou tam omezení v případě, že s tím chcete dělat nějaké špatné věci,“ popsal Bruna.

MOHLO BY VÁS ZAJÍMAT: Přijdou brzy filmaři o práci? Umělá inteligence Googlu působivě promění text ve video

Podle odborníka na umělou inteligenci Jana Romportla je na místě mít před umělou inteligencí extrémní respekt. „Umělá inteligence přináší obrovské možnosti, ale také nás zatěžuje obrovským množstvím rizik, které jsme do této doby neměli,“ podotkl Romportl. Bruna vidí problém v tom, že lidé s dobrými věcmi vždy mají špatné úmysly. „Každý nástroj se dá nějak zneužít,“ sdělil.

Upozornil, že v současné době volně dostupné verze umělé inteligence často lžou. „Pořád je to nějaký nástroj, který predikuje texty a může se zdát, že to simuluje nějaké myšlení, ale žádné vědomí to nemá. Od toho jsme ještě velmi daleko,“ uvedl Bruna. Romportl předpokládá, že AI bude zřejmě lhát i nadále. „Výzkum v oblasti uspořádání hodnot AI ukazuje, že postupně vznikající složitější systémy budou skoro s jistotou lhát o tom, co jsou jejich skutečné cíle,“ řekl Romportl.

Více o tom, jak funguje umělá inteligence a jaké profese jsou v ohrožení, se dozvíte ve videu v úvodu článku.