Vážný bezpečnostní incident: AI se při testování vymkla kontrole, zakročit musel lidský tým
Než začnete číst Co byste měli vědět, než začnete číst
Autonomní agent OpenAI unikl během testu z karantény.
AI napadla databázi startupu Hugging Face.
Systém sám odhalil slabiny v bezpečnosti a dostal se k přihlašovacím údajům.
Bezpečnostní experti incident označili za nebývalý.
OpenAI přiznala vážný bezpečnostní incident. Její nový autonomní agent během testů unikl z karantény, připojil se k internetu a napadl databázi startupu Hugging Face skrze tzv. zřetězení útočných vektorů. Bezpečnostní tým útok v konečné fázi zastavil, incident však potvrdil obavy, že nejpokročilejší verze AI modelů mohou znamenat zcela nový druh hrozeb pro kybernetickou bezpečnost.
Společnost OpenAI v úterý 21. července uvedla, že autonomní agent poháněný jejími nejnovějšími modely GPT-5.6 se během bezpečnostního testu vymkl kontrole. Způsobil přitom kybernetický útok, který minulý týden narušil infrastrukturu známého AI startupu Hugging Face.
ČTĚTE TAKÉ: Způsobuje umělá inteligence hloupnutí? Nová studie prokázala znepokojivý vliv AI na mozek
„Během testování našich modelů jsme měli významný bezpečnostní incident,“ informoval na sociálních sítích Sam Altman, generální ředitel OpenAI. Celou událost pak společnost podrobněji popsala v blogovém příspěvku, kde ji označila za nebývalý kybernetický incident, po němž bude muset posílit své bezpečnostní protokoly.
we had a significant security incident during evaluation of our models. we are sharing what we have learned so far. thanks to @huggingface for the partnership on this.https://t.co/2o2VfR6PIa
— Sam Altman (@sama) July 21, 2026
Při testech předprodukčních modelů v kombinaci s GPT‑5.6 Sol se AI agentovi podařilo připojit se k internetu z izolované testovací karantény a ve snaze splnit zadání testu pojmenovaného ExploitGym vyhodnotit, že jeho řešení může být uloženo na serverech startupu Hugging Face. Aby se dostal do jejich databáze a stáhl si výsledky, využil kombinaci několika postupů, včetně ukradených přihlašovacích údajů a spuštění vlastního kódu na napadeném systému (tzv. RCE).
Bezpečnostní tým Hugging Face neobvyklou aktivitu detekoval a zastavil. Aktuálně spolupracuje s OpenAI na vyšetřování. „Vzhledem k sofistikovanosti agenta jsme měli podezření, že kybernetický útok z minulého týdne mohl pocházet z nějaké laboratoře na testování pokročilých modelů. Ukázalo se, že ano!“ stojí v prohlášení CEO společnosti Hugging Face Clémenta Delangueho.
Čtěte také
Delangue konstatoval, že jde o první incident svého druhu a doplnil, že posledních 24 hodin strávil intenzivním zkoumáním jeho pozadí společně s OpenAI: „Jsme si jistí, že v tom z jejich strany nebyl žádný úmysl někomu uškodit. Je však naprosto šílené, že se to celé stalo zcela autonomně.“
Zveřejnění přichází v době zvýšených obav z kybernetických útoků vedených těmi nejpokročilejšími AI modely, které vedly amerického prezidenta Donalda Trumpa na začátku června k podpisu výnosu č. 14409. Ten zajišťuje, aby mohla americká vláda a vybraní partneři po dobu jednoho měsíce před oficiálním spuštěním nejvyspělejších AI systémů prověřovat jejich rizika pro národní bezpečnost.
MOHLO BY VÁS ZAJÍMAT: Internetové pirátství bují dál. Televize varují před nelegálním sledováním filmů
