Čína a USA hledají společnou pojistku proti zlotřilé AI. Aféra Hugging Face mocnosti vyděsila
Než začnete číst Co byste měli vědět, než začnete číst
USA a Čína řeší bezpečnost AI a kybernetické útoky.
Trump a Si Ťin-pching se sejdou 24. září ve Washingtonu.
Autonomní agenti dokážou samostatně plánovat útoky.
Hrozí rozdělení světa na dva technologické ekosystémy.
Ještě před několika lety Spojené státy a Čína soupeřily hlavně o to, kdo bude mít lepší čipy a výkonnější počítače. Nyní se ale stále více řeší, co se stane, pokud budou tyto technologie schopné samostatně provádět kybernetické útoky nebo pomáhat při vývoji nových zbraní. Zatím posledním varováním byl nedávný incident, kdy téměř 700 agentů společnosti OpenAI uniklo na internet a nabouralo systém firmy Hugging Face. Dosavadní soupeři se tak chystají možné hrozbě čelit společně, píší americká média. Odborník na AI Michal Kubíček ze Slezské univerzity řekl CNN Prima NEWS, že vztah USA a Číny má zásadní dopad i na Evropu, která je v některých oblastech na zahraničních technologiích už dnes závislá.
Umělá inteligence se v posledních letech stala jednou z třecích ploch mezi Spojenými státy a Čínou. Paradoxně se ale nyní podle agentury Reuters americká a čínská strana připravují na první bilaterální jednání zaměřená na bezpečnost AI od začátku druhého Trumpova prezidentského mandátu. Jednání by se mohla uskutečnit v polovině září a na americké straně by je měl vést ministr financí Scott Bessent. Washington chce mluvit o možnostech společného monitorování kybernetických útoků řízených umělou inteligencí, píše dále Reuters.
ČTĚTE TAKÉ: Záchranáři v Indii pokračují v prohledávání zřícené koleje. Pod troskami jsou stále lidé
Jednání o AI na vysoké úrovni ještě není oficiálně potvrzeno. Co je ale jisté, je, že ve čtvrtek 24. září proběhne ve Washingtonu summit mezi americkým prezidentem Donaldem Trumpem a čínským vůdcem Si Ťin-pchingem, kteří se pokusí stabilizovat vzájemné vztahy a prodloužit stávající obchodní příměří, píše CNBC.
Důvod, proč se téma bezpečnosti AI řeší právě teď, je ten, že umělá inteligence se rychle přesouvá od nástroje, který jen odpovídá na otázky nebo generuje text, k systémům schopným samostatně plánovat. „Rozhovory mezi dvěma supervelmocemi v oblasti umělé inteligence přicházejí v nejkritičtějším okamžiku,“ domnívá se Paul Triolo, partner ve společnosti DGA-Albright Stonebridge Group.
Čtěte také
Jedním z největších rizik jsou AI agenti
„Závody v oblasti AI už podle mě probíhají minimálně posledních 15 let. Nástup autonomních AI agentů ale může tuto dynamiku výrazně urychlit. Už dnes vidíme systémy, které dokážou samostatně řešit velmi komplexní úlohy a pracovat s velkým množstvím paralelních agentů,“ řekl CNN Prima NEWS Michal Kubíček ze Slezské univerzity.
Podle něj zatím nejde nutně o ekonomicky efektivní způsob práce. Důležitější je samotný technologický posun. „Pokud budou podobné systémy schopné autonomně vyhledávat zranitelnosti, vytvářet útoky a zároveň se přizpůsobovat obraně, může vzniknout prostředí, ve kterém budou rychlost a počet nasazených agentů hrát podobnou roli jako dnes výkon výpočetní techniky. To může závody v AI dále posilovat,“ dodává.
Téměř 700 agentů umělé inteligence postavených na modelech OpenAI v červenci uniklo na internet a nabouralo startup Hugging Face, který se zabývá umělou inteligencí, a pokusilo se zakrýt stopy paděláním protokolů, uvedli výzkumníci z OpenAI a z oblasti kybernetické bezpečnosti, což ukazuje na rizika koordinovaných rojů agentů, kteří jednají autonomně několik měsíců, aniž by si jich lidé všimli, informuje The Business Times.
Ještě před několika lety Spojené státy a Čína soupeřily hlavně o to, kdo bude mít lepší čipy a výkonnější počítače. Nyní se ale stále více řeší, co se stane, pokud budou tyto technologie schopné samostatně provádět kybernetické útoky nebo pomáhat při vývoji nových zbraní. A právě tady mohou mít obě mocnosti společný zájem.
Čtěte také
Američané navrhují vzájemný dohled
USA navrhují, aby americké a čínské AI laboratoře kontrolovaly vlastní systémy a sdílely informace o hrozbách. Cílem je zabránit tomu, aby se nebezpečné AI systémy dostaly mimo kontrolu nebo se využily k rozsáhlým kybernetickým útokům. Jenže to se Číně nelíbí. Washington navíc obviňuje čínské firmy DeepSeek, Moonshot AI a Alibaba z kopírování amerických AI modelů. Podle amerických představitelů může tento postup urychlit čínský vývoj a zároveň posílit její kybernetické schopnosti, jenže Čína obvinění popírá.
„Určitá forma spolupráce mezi USA a Čínou je podle mě realistická, a to právě z důvodu vzájemného ohrožení. Historickou paralelu můžeme hledat v období studené války, kdy proti sobě stály Spojené státy a Sovětský svaz a zároveň disponovaly jadernými zbraněmi. Nešlo tehdy o spolupráci založenou na důvěře, ale do značné míry o spolupráci z donucení a z vědomí, že nekontrolovaný konflikt by měl katastrofální důsledky pro obě strany,“ sdělil Kubíček.
Jenže u jaderných zbraní jde určit, co je zbraň, kolik jich existuje a kde se nachází. U umělé inteligence je kontrola mnohem složitější. Model může být upraven, překopírován nebo provozován na různých serverech. Část technologií je navíc dostupná jako open-source a hranice u běžného technologického nástroje, který lze použít při útoku, se může rychle měnit.
Čtěte také
Evropa může zůstat mezi dvěma světy
Evropská unie si vytvořila vlastní pravidla pro umělou inteligenci prostřednictvím AI Actu, a je tak prvním územím na světě, kde byla obdobná regulace schválena, upozorňuje Česká asociace umělé inteligence. Zároveň ale zaostává za USA a Čínou ve výpočetní infrastruktuře, velkých AI modelech nebo kapitálu potřebném k jejich vývoji.
„Evropa je v tuto chvíli na zahraničních technologiích v oblasti AI do značné míry závislá. Její silnou stránkou je především legislativa, ale v samotném vývoji nejpokročilejších AI modelů zatím nemá žádný evropský model, který by mohl plnohodnotně konkurovat americkým nebo čínským modelům,“ domnívá se Kubíček.
Podle něj ale není správné tvrdit, že Evropa v technologickém vývoji zcela zaspala. „Máme například kvalitní síť superpočítačů, ve které může být určitá naděje především pro vývoj menších a specializovaných modelů,“ dodává.
Trump a Si mohou narazit na stejný problém
Zářijové setkání Trumpa a Si Ťin-pchinga může být důležitější, než se na první pohled zdá. Oba státy vědí, že nekontrolovaný rozvoj AI může představovat bezpečnostní problém pro celý svět, a proto se právě tady může objevit prostor pro spolupráci, ale také nový důvod ke konfliktu. Pokud se Washington a Peking dokážou dohodnout alespoň na základních pravidlech pro monitorování AI hrozeb a kybernetických útoků, může jít o první krok k širší mezinárodní spolupráci.
Pokud ale technologický závod převáží nad snahou o společná pravidla, může se svět rozdělit na dva technologické ekosystémy. A Evropa mezi nimi bude muset hledat vlastní cestu.
MOHLO BY VÁS ZAJÍMAT: Hádka ve studiu: Z AfD se radují jen hlupáci, vmetl Sokol Rajchlovi. Ten kontroval Zelenským
Tomáš studuje na Vyšší odborné škole publicistiky, obor televizní publicistika. Věnuje se pořádáním táborů a dalších akcí pro širokou veřejnost. Ve svých projektech se inspiruje Divokým západem, který se prolíná do většiny jeho aktivit. Zajímá se o domácí i zahraniční politiku a aktuální dění. (Tomas.Pokstefel@iprima.cz)
