Konec světa jako PR trik? Proč AI lídři najednou volají po brzdě a regulaci
Než začnete číst Co byste měli vědět, než začnete číst
Tématem dneška jsou roje zdivočelých agentů.
Na obzoru jsou levné open-source modely.
Bezpečnostní regulace může být hráz před konkurencí.
Oznámené zpomalení je nepřímým přiznáním limitu růstu.
Když se největší rivalové technologického světa začnou předhánět ve varováních před vlastním produktem, je na místě zbystřit. Lídři umělé inteligence začali volat po státním dohledu, bezpečnostních auditech a koordinovaném zpomalení překotného vývoje. Máme věřit jejich náhlému strachu o přežití lidstva, nebo jde o promyšlený tah, jak ochránit vlastní miliardový byznys před konkurencí a přizpůsobit se společenské a ekonomické realitě?
Pokud něco neuděláme, hrozí konec lidstva, který zařídí umělá inteligence. Tak by se dala shrnout aktuální varovná vystoupení výzkumníků z oboru AI, k nimž se přidali i šéfové největších firem oboru, Dario Amodei (Anthropic), Sam Altman (OpenAI), Elon Musk (xAI) nebo Demis Hassabis (Google DeepMind). Navenek mluví hlavně o potřebě větší bezpečnosti, ale škála jejich motivací je daleko širší.
ČTĚTE TAKÉ: Přední AI rozdávaly rady ohledně vymyšlené nemoci. Chytily se do pasti švédských vědců
Už v červenci roku 2017 prohlásil Elon Musk, že je třeba regulovat AI, jinak se stane nebezpečím pro lidstvo. S železnou pravidelností pak podobným způsobem vystupuje Dario Amodei, který dostal v online komunitě nálepku doomsday marketéra, používajícího strach a apokalyptické vize jako způsob, jak přitáhnout pozornost a zároveň vyhlásit do světa, že právě produkty Anthropicu jsou v čele, co se týče schopností, a tedy i potenciálního rizika.
Aktuálně nejsilnějším tématem jsou zdivočelé roje autonomních AI agentů páchajících kybernetické škody. Postupně se k nim formou oficiálního prohlášení přiznaly OpenAI (nejvíce zdokumentovaný Hugging Face incident), Anthropic, Meta a minulý týden i Google. Jako nová hrozba je zmiňováno takzvané rekurzivní sebezdokonalování, kdy by se modely mohly vyvíjet samy bez lidského přispění a být tak násobně více autonomní a nevyzpytatelné. Kdy by k něčemu takovému mohlo dojít? Odhady mluví vágně o letech 2028 až 2036.
„Rizika je třeba vnímat a brát je zcela vážně. Ukazuje se to i na tom, co děláme v laboratorních testech. Hrozba, že budou agenti dělat něco, co po nich nebudeme chtít a bude to proti etice, tam prostě je,“ konstatoval pro CNN Prima NEWS Martin Gyurák, předseda českého Svazu umělé inteligence. Zároveň však zdůraznil, že se diskuze stáčí tím nejméně užitečným směrem k vysoce nepravděpodobnému sci-fi scénáři s vyhubením lidstva. „Když se mluví v takhle silných slovech, je třeba se zejména podívat, kam tečou peníze a kdo na tom vydělá nebo prodělá,“ naznačil.
Zablokovat konkurenci
Rétorika velkých AI hráčů je podle něho nepochybně motivována i snahou bránit se konkurenci v podobě levnějších čínských a zejména pak lokálních a open-source modelů, které se dají instalovat na vlastní hardware. Může to pro ně totiž znamenat znatelný výpadek příjmů z plateb za předplatné a spotřebované tokeny. Zatímco velké modely od OpenAI či Googlu lze centrálně monitorovat a upravovat, ty lokální lze učit a nastavovat způsobem, který lze mnohem snadněji zneužít. A právě tady je podle něho příležitost vytáhnout bezpečnostní kartu a volat po regulaci. „Když těm velkým vypadne polovina příjmů, protože firmy si zajistí AI vlastní cestou, tak musejí přijít s novým tématem, a tím je kyberbezpečnost,“ vysvětlil.
Čtěte také
Nové zákonem stanovené požadavky mohou velcí hráči použít rovněž jako příkop, který zkomplikuje konkurenci přístup na trh. Náklady na bezpečnostní oddělení, právní týmy a externí audity jsou něco, co se v korporátním rozpočtu ztratí, ale pro menší firmy může jít o nezdolatelný náklad. „Navíc jsou tady přímé páky na americkou administrativu, jaké má třeba Musk, tedy možnost do té legislativy přímo vstoupit a přizpůsobit si ji. Konkurenční boj a lobbing tam budou hrát nemalou roli,“ podotkl Gyurák.
Právě o nebezpečí lobbingu a snahách o kartel promluvil v hojně diskutovaném příspěvku na sociální síti X významný AI vědec a držitel Turingovy ceny Yann LeCun, který se zastal open-source modelů a AI lídrům vzkázal: „Pokud vaše zastrašovací kampaně uspějí, povedou nevyhnutelně k tomu, co bychom jistě označili za katastrofu: malý počet společností získá plnou kontrolu nad AI.“
Dát nový příběh realitě
Závody o prvenství v trénování modelů a překotná stavba AI datacenter narážejí na svůj strop, a to hned v několika směrech. Dodavatelé nestíhají pokrývat poptávku po pokročilých čipech i pamětech a vedle toho se klíčovou překážkou stává energetika – sítě jsou na hraně možností a zdražování elektřiny je jedním z hlavních důvodů odporu komunit proti jejich výstavbě. Podle čerstvého průzkumu Pew Research Center pouze 4 % Američanů vnímají datacentra převážně pozitivně, což je fakt, kterého si začínají všímat i politici a přizpůsobovat tomu své kroky a rétoriku.
Čtěte také
Slova o nutnosti brzdit a zaměřit se na bezpečnost jsou tak ideální exitovou strategií umožňující zachovat si tvář u veřejnosti, zákonodárců i investorů a zároveň koordinovaně zkrotit astronomické náklady – jen za rok 2026 se má podle Goldman & Sachs v rámci rozvoje AI jednat o investice ve výši bilionu dolarů. Takto astronomické částky se s ubíhajícím časem před investory stále obtížněji obhajují, obzvlášť v prostředí, které nabízí alternativy a stále čeká na přelomový produkt. Uvědomuje si to i OpenAI, která ohlásila svůj odklad vstupu na burzu, což Altman v rozhovoru s časopisem Fortune zdůvodnil právě bezpečnostními riziky.
„Všimněte si, že tím, kdo bez ohledu na situaci stále roztleskává a nevidí žádný důvod brzdit, je Jensen Huang, šéf Nvidie. Ten jako hlavní dodavatel AI hardwaru vydělá vždycky – ať už to budou čipy do datacentra, nebo k vám domů. Co se bude dít dál, není jeho starost,“ podotkl Gyurák.
Bez mantinelů se špatně hraje
Podle české expertky na právo a etiku umělé inteligence Alžběty Solarczyk Krausové je možné v kroku cítit i snahu o rozmělnění zodpovědnosti: „Tím, že otevřou své laboratoře, vpustí tam regulátory i dozor a vytvoří dojem transparentnosti, tak se do jisté míry vyviňují. Když se pak cokoliv pokazí, řeknou: ‚My jsme udělali vše, co jsme mohli, vy jste nám to schválili a jedeme v tom společně.‘ Přitom největší ekonomické benefity zůstávají u nich,“ uvedla pro CNN Prima NEWS.
Přestože se z Česka může zdát, že v americkém prostředí nejsou regulaci nakloněni, skutečnost je podle jejích zkušeností trochu jiná. „Před dvěma lety jsme měli v Praze návštěvu amerických kongresmanů. Na americké ambasádě jsme jim představovali evropský AI Act a jedna z kongresmanek se nás tehdy ptala: ‚Můžete nám říct, jak se vám to v Evropě povedlo zvládnout? Snažíme se o federální pravidla, ale vůbec nejsme schopni se dohodnout.‘ Americké firmy na politiky tlačí samy, protože potřebují jednotný rámec a právní předvídatelnost. V USA se o regulaci na veřejnosti mluví nerado, berou to málem jako sprosté slovo, ale v zákulisí se mnohdy dozvíte jiný příběh,“ popsala Solarczyk Krausová.
Čtěte také
Připomněla, že v Americe má každý stát vlastní pravidla, což firmy staví před obrovské komplikace – a platí to i pro umělou inteligenci. „Když jsme řešili projekt pro izraelskou firmu a zjistilo se, že v USA by musela platit za separátní právní posudek pro každý jednotlivý stát, byl to pro ně šok. Právní analýza je tam kvůli tomu mnohonásobně dražší než v Evropě,“ vysvětlila expertka.
Nepředpokládá, že v zámoří vznikne komplexní zákon věnovaný AI. „Spíše půjdou cestou stanovování technických standardů a řízení rizik se zaměřením na kybernetickou bezpečnost. Problematické je, že do těchto standardů budou nejvíce mluvit samy velké technologické firmy. Jsou to totiž právě ony, kdo má v rukou reálné know-how a zkušenosti z praxe. Výslednou legislativu si tak do značné míry napíší samy sobě na míru,“ podotkla Solarczyk Krausová.
Podle Gyuráka teď bude podstatné, zda se slova AI lídrů nějak promítnou do reality, třeba přesunem investic z trénování nových modelů do zajištění jejich bezpečnosti, a zda to přinese zklidnění nálad a emocí, které AI často vyvolává. „Stále máme před sebou obrovský vývoj, dneska využíváme jen pár procent celého potenciálu AI. Čemu se dneska říká agent, je vlastně jen takový lepší asistent. Agent třetí generace bude schopen se klonovat, orchestrovat a syntetizovat své znalosti do ostatních. Naprosto neumíme dohlédnout, co to udělá se společností. Tam vidím reálné výzvy, které bude třeba řešit, ne vyhubení civilizace roboty,“ uzavřel.
MOHLO VÁM UJÍT: Vyhlazení lidstva je mrazivě reálný scénář. Bod zlomu může přijít brzy, varuje vědec před AI
