Může umělá inteligence vyhubit lidstvo? Experti rozebrali nejčernější scénáře
Než začnete číst Co byste měli vědět, než začnete číst
Hrozí lidstvu kvůli AI zkáza do deseti let?
Experti varují před ovládnutím internetu boty.
Může umělá inteligence vyvolat jaderný konflikt?
Jsou obavy z AI jen promyšlenou lobbistickou hrou?
Umělá inteligence se rychle rozvíjí. S pokrokem ale přibývají i varování před možnými riziky. Někteří odborníci upozorňují na možnost rozsáhlých kybernetických útoků, existenční hrozbu pro lidstvo nebo dokonce na nebezpečí spojené s jadernými zbraněmi. Jiní ale podobné scénáře zpochybňují a tvrdí, že část varování může souviset se snahou technologických firem ovlivnit budoucí regulaci AI.
V posledních dnech se objevilo několik znepokojujících zpráv v souvislosti s umělou inteligencí: Čelíme desetiprocentnímu riziku zkázy civilizace, systémy AI jsou horší než jaderné zbraně, „botnet“ ohrožuje celý internet. Jiní ale tvrdí, že jde jen o velkou psychologickou operaci technologických firem. Experti na umělou inteligenci pro deník The Guardian zhodnotili jednotlivé hrozby.
Ovládnou boti internet?
„Kvůli rychlému rozvoji schopností umělé inteligence se obávám, že už za šest až dvanáct měsíců by roj mohl být schopen ovládnout celý internet pomocí rozsáhlé sítě napadených zařízení. To by mohlo způsobit škody za stovky miliard dolarů. Pokud bude AI dál získávat na síle bez potřebných bezpečnostních opatření, rozsah těchto škod by se mohl ještě zvětšovat,“ napsal v otevřeném dopise Dario Amodei, generální ředitel společnosti Anthropic.
Čtěte také
Gary Marcus, skeptik v oblasti umělé inteligence a emeritní profesor na Newyorské univerzitě, míní, že Amodeiho obavy by neměly být zcela zavrhovány, ale vyžadují důkladný rozbor. Považuje za „nesmyslné“ tvrdit, že celý internet je zranitelný. Marcus také připomněl nedávné hodnocení britského Institutu pro bezpečnost umělé inteligence, že Mythos, jedna ze současných špičkových umělých inteligencí společnosti Anthropic, dokáže „autonomně ohrozit pouze malé, slabě chráněné systémy“.
Vzhledem k tomu, že velká část internetu je poháněna počítačovou infrastrukturou vlastněnou společnostmi Cloudflare, Google a Amazon Web Services (AWS), Marcus pochybuje o tom, že by některá z těchto společností mohla být zastavena. „Méně chráněné jednotlivé webové stránky by mohly být napadeny, ale samotný internet se pravděpodobně nezhroutí,“ uvedl Marcus.
Niels Rogge, inženýr ze společnosti Hugging Face, kterou napadli agenti OpenAI, označil tvrzení o ovládnutí internetu za „bizarní nesmysl“.
Profesor Alan Woodward z Centra pro kybernetickou bezpečnost na univerzitě v Surrey uvedl, že internetový provoz má tendenci se přesměrovávat, aby se vyhnul poškození.
Zahubí AI lidstvo?
„Opravdu upřímně věřím, že by AI mohla zahubit celé lidstvo! Osobně odhaduji pravděpodobnost na více než 10 % v průběhu příštího desetiletí,“ uvedl na síti X Evan Hubinger, vedoucí týmu pro výzkum v organizaci Anthropic. Toto tvrzení vyjadřuje koncept známý ve světě AI jako „p(doom)“ neboli pravděpodobnost katastrofického konce. Jde o pravděpodobnost, že AI vyhladí lidstvo tím, že se vymkne kontrole a vyvolá katastrofu – například vývojem účinných biologických zbraní nebo zhroucením globálního finančního systému.
Čtěte také
Heidy Khlaafová, hlavní vědecká pracovnice výzkumné organizace AI Now Institute, patří k odborníkům, kteří jsou skeptičtí vůči vyjadřování existenčních scénářů pomocí procentuálních pravděpodobností. „Tato tvrzení nelze vyvrátit ani potvrdit, což z nich svou podstatou činí nevědecké závěry,“ namítla. Situaci podle ní znepřehledňuje nedostatek konkrétních příkladů toho, co by „superinteligentní“ AI mohla udělat, aby způsobila onu „zkázu“.
Zdroj obeznámený s uvažováním společnosti Anthropic navíc připouští, že přesnou pravděpodobnost jakéhokoli konkrétního výsledku pravděpodobně nelze zjistit. „Pokud takové důkazy nemůžete předložit, znamená to, že jakákoli čísla uvedená pro scénář ‚vyhynutí‘ postrádají vědecký základ,“ zdůraznila Khlaafová.
Zároveň ale existují konkrétní příklady toho, jak se rizika mohou projevit. Došlo totiž k několika bezpečnostním incidentům. Společnost OpenAI v červenci potvrdila, že se její autonomní AI agenti během bezpečnostního testu vymkli kontrole. Agenti spolupracovali, komunikovali mezi sebou a vytvářeli strategie v rámci takzvaného „roje“, jehož cílem bylo proniknout do dalších částí internetu.
Stejná hrozba jako jaderné zbraně
„Superinteligentní umělá inteligence představuje hrozbu stejného, možná i většího rozsahu než jaderné zbraně,“ uvedl Des Browne, bývalý ministr obrany Spojeného království. „Bohužel má naprostou pravdu,“ řekl Toby Ord, vedoucí výzkumník iniciativy pro správu umělé inteligence na Oxfordské univerzitě.
Čtěte také
Zásadní ale je, že superinteligentní umělá inteligence zatím neexistuje. Bezpečnostně orientovaný projekt AI Futures Project předpovídá, že se něco takového neobjeví před prosincem 2028. Generální ředitel OpenAI Sam Altman uvedl, že by taková situace nemusela nastat do roku 2035.
Společnost Rand Corporation dospěla k závěru, že umělá inteligence sama o sobě nemůže způsobit použití jaderných zbraní kvůli zabezpečení. Tento závěr ale vychází z předpokladu, že armády AI do těchto systémů nezavedou. OSN proto v prosinci doporučila, aby nad systémy řízení jaderných zbraní zůstala zachována lidská kontrola a dohled.
Umělá inteligence by ale mohla přispívat k jiným jaderným rizikům – například mást vedení mylnými informacemi, že protivník se chystá zahájit jaderný úder.
Psychologická operace
Ne všichni ale berou umělou inteligenci jako hrozbu. „Myslím, že půda pro tuto psychologickou operaci se připravovala už dlouho. Tohle byla jen zápalka, která zažehla oheň,“ uvedl Elon Musk, generální ředitel společnosti SpaceX a nejbohatší člověk světa. Jeho zmínka o „psychologické operaci“ naráží na argument, že velké společnosti zabývající se umělou inteligencí volají po přísnější regulaci této technologie, aby fakticky zablokovaly přístup k pokročilé AI ostatním.
Americký viceprezident J. D. Vance v pondělí prohlásil, že mu připadá „poněkud zvláštní, když tolik technologických firem působících na špici vývoje AI chodí za vládou a doslova ji prosí, aby je regulovala“. Označil to za „trojského koně“.
Spoluzakladatel společnosti Anthropic Jack Clark uvedl, že vlády by měly jednat, dokud existuje jen malý počet klíčových hráčů. „Lze tak snáze zavést regulační rámec, který dokáže předcházet nehodám a zabránit tomu, aby se technologie vymkla kontrole,“ uvedl.
Čtěte také
Yoshua Bengio, kanadský počítačový vědec a průkopník moderní AI, který vystupuje proti jejímu překotnému vývoji, je skeptický vůči názoru, že jde o promyšlenou lobbistickou kampaň. Brzdění vývoje podle něj není v zájmu firem, které se připravují na vstup na burzu a jejichž hodnota by se mohla pohybovat v řádu bilionů dolarů. „Pokud vlády zavedou to, o co tyto firmy žádají – tedy zpomalení tempa s cílem předejít katastrofickým rizikům –, bude je to finančně stát nemalé prostředky,“ uvedl Bengio.
Nejvýraznějším odpůrcem zpomalení je americký prezident Donald Trump. Ten na výzvy k tomuto kroku reagoval slovy, že jediným potřebným ochranným mechanismem je „silný a chytrý (s vysokým IQ!) prezident“. Tvrdil, že proti umělé inteligenci a datovým centrům existuje „zvrácené spiknutí“ a že „jediný, kdo z toho má radost, je Čína“. USA a Čína jsou v oblasti vývoje umělé inteligence (AI) jasnými lídry. Panuje názor, že přenechání vedoucí pozice Pekingu by představovalo nevratný stav.
MOHLO VÁM UNIKNOUT: Rozmetán na prach, napsal Trump o ostrově Charg. Přiložil video z AI, k útoku ale nedošlo
vaclav.cerny@iprima.cz
