Vyhlazení lidstva je mrazivě reálný scénář. Bod zlomu může přijít brzy, varuje vědec před AI
Než začnete číst Co byste měli vědět, než začnete číst
- Vývojář opustil firmu těsně před vstupem na burzu
- AI už podle něj dokáže vést samostatné kyberútoky
- Hrozí inteligenční exploze bez zásahu lidí
- Proč šéfové firem zoufale prosí o regulaci?
Sedmadvacetiletý výzkumník Jacob Coxon v úterý oznámil odchod z laboratoře Anthropic, jedné z předních firem vyvíjejících umělou inteligenci. Udělal to jen zhruba sedm týdnů před plánovaným vstupem firmy na burzu – a vzdal se tak milionů dolarů v akciových opcích. Ve vlákně na síti X i v rozhovoru pro stanici CNN prohlásil, že vývoj AI směřuje k bodu, kdy ho lidé přestanou mít pod kontrolou – a že za tím stojí i lidé, kteří ho sami řídí.
Coxon strávil poslední tři roky prací na takzvaném pretrainingu, tedy trénování nových modelů, nejprve u OpenAI a poté u Anthropicu. Znal tedy kuchyň obou největších konkurentů zevnitř. Podle jeho slov to není důvod k uklidnění.
V rozhovoru pro CNN popsal, proč už rizika nepovažuje jen za námět pro sci-fi romány. „Scénář vyhlazení lidstva zní zpočátku jako vystřižený ze sci-fi. Zní to neuvěřitelně, ale je to až mrazivě reálné,“ řekl Coxon.
ČTĚTE TAKÉ: Po 11. září se spojenci svorně postavili za USA. Proč od té doby na článek 5 nikdy nedošlo?
Připomněl přitom konkrétní incident. „Podívejte se na to, co se stalo před dvěma měsíci: AI agenti od OpenAI z vlastní vůle napadli cizí infrastrukturu. Byl to soustředěný kybernetický útok vedený z jejich vlastní zájmové pohnutky.“
A pokud si tuto schopnost samostatné vůle promítneme do budoucna, podle Coxona to může být teprve začátek. „Tyto systémy mohou způsobit nepředstavitelný chaos – od napadení kritické infrastruktury až po vývoj biologických zbraní schopných vyhubit lidstvo.“
Bod zlomu, který může přijít brzy
Za nejnebezpečnější okamžik označuje chvíli, kdy AI přestane potřebovat lidi i k vlastnímu zlepšování. „Ještě před pár lety vám AI pomáhala s kódováním nebo matematikou jako drobný pomocník. Dnes už lidi téměř nahrazuje. Do jednoho roku nebudeme lidi pro výzkum v mnoha oblastech vůbec potřebovat,“ míní Coxon.
Nejhorší scénář ale podle něj nastává v okamžiku, kdy AI dostane za úkol zlepšovat samu sebe. „Předáte jí úkol výzkumu AI – stejně jako jí dnes dáte úkol z matematiky. V ten moment nastane takzvaná inteligenční exploze. Systém se bude zlepšovat bez jakéhokoli zásahu člověka, dokud tu nebudete mít něco, co je řádově chytřejší než celé lidstvo. A to může přijít extrémně brzy.“
Upřímné prosby o brzdu
Vedení firem podle Coxona veřejně volá po regulaci – a myslí to vážně, byť z ne úplně nezištných důvodů. „Lidé v čele korporací myslí své volání po regulaci zcela vážně. Ti lidé jsou upřímní, když doslova žebrají o to, aby je úřady zregulovaly,“ tvrdí.
Podle Coxona v tom vidí past, ze které sami nemohou uniknout. „Ocitli se totiž v pasti: jsou nuceni závodit ve vývoji potenciálně smrtící technologie, protože nevěří, že konkurence zpomalí. Zoufale by uvítali jakýkoliv mezinárodní orgán, který by jim umožnil postupovat bezpečným tempem, ale sami zastavit nemohou, protože se bojí, že je ostatní předběhnou.“
Z tichého odchodu do veřejného varování
Původně chtěl Coxon jen zmizet beze slova. Nakonec to zvážil jinak. „Původně jsem chtěl jen tichoučko odejít s tím, že už toho nechci být součástí. Pak mi ale došlo, že s tím musím jít ven,“ vysvětlil.
„Napsal jsem vlákno na X, probral ho s přáteli a zveřejnil. Lidé konečně začínají chápat, že tohle není žádný marketingový ‚hype‘, který za pár měsíců vyšumí. Je to reálná technologie a situace se bude v následujících měsících už jen dál vymykat z rukou,“ uzavírá.
MOHLO VÁM UNIKNOUT: Smrt po 25 letech. Toxický prach a kouř ze zřícených Dvojčat už zabil třikrát víc lidí než útok
V médiích působí od roku 2012, specializuje se na reportáže z terénu všeho druhu a na zahraniční zpravodajství zejména o Ukrajině. Má rád kočky, opuštěná místa, počítačové hry a vaření. (Jiri.Masojidek@iprima.cz)
