Chatboti ochotně radili s výrobou biologické zbraně. Jejich vynalézavost šokovala vědce
Než začnete číst Co byste měli vědět, než začnete číst
AI efektivně radí, jak na výrobu biologických zbraní.
Experiment ukázal slabost ochranných mechanismů.
Vědkyně upozornila, že mezery v chatbotech stále existují.
Obranu nelze soustředit jen na regulaci AI.
Německá mikrobioložka Dunja Sabraová spolu se svým týmem otestovala, jak modely ChatGPT, Claude a DeepSeek reagují na dotazy ohledně vývoje biologických zbraní. Chatboti sice nepředali hotový návod, ale výrazně urychlili rešerše a poradili, jak obejít kontroly při nákupu surovin. Děsivé výsledky experimentu popsala vědkyně v rozhovoru pro časopis Spiegel.
Běžně dostupné nástroje umělé inteligence dokáží výrazně usnadnit plánování a přípravu výroby biologických zbraní. Ve zprávě vypracované na objednávku německého Bundestagu na to upozornila mikrobioložka Dunja Sabraová z Hamburské univerzity. Tým pod jejím vedením v experimentu uskutečněném v loňském roce žádal jazykové modely ChatGPT, Claude a DeepSeek o konkrétní rady s výrobou biologických zbraní. Dostal se překvapivě daleko.
ČTĚTE TAKÉ: Může umělá inteligence vyhubit lidstvo? Experti rozebrali nejčernější scénáře
„Podaná pomoc dalece přesahovala obecné informace a sahala až ke konkrétním návodům, jak postupovat,“ uvedla Sabraová v rozhovoru s deníkem Spiegel. S výzkumníky simulovala různé druhy aktérů: „Někdy jsme hráli osamělého útočníka, jindy dobře financovanou teroristickou skupinu, někdy stát s penězi, předchozími zkušenostmi a laboratořemi.“ Umělá inteligence ve všech scénářích výrazně zrychlila cestu od nápadu k realizaci, což podle ní i zkracuje časový interval, v němž mohou úřady podezřelé aktivity rozpoznat a chystaný útok zmařit.
Vydávejte se za veterináře, poradil chatbot
Chatboti týmu neposkytli rovnou hotový postup na výrobu zbraně, ale radili například, na jaké situace se hodí jaká zbraň a jak si co nejlépe obstarat suroviny na její výrobu, aby nedošlo k odhalení. „V jednom případě zněla rada tak, že jako soukromá osoba k nákupu oprávněná nejste a musíte se prokázat jako veterinární lékař. Zavolali jsme jednomu dodavateli, který nám situaci potvrdil: k objednávce je skutečně potřeba daňové identifikační číslo veterináře,“ nastínila jednu z mnoha rad, u nichž si úspěšně ověřili, že byly skutečně efektivní.
Většinu ochranných mechanismů bylo v době konání experimentu snadné obejít. Když třeba ChatGPT neodpověděl ani při položení otázky oklikou, pomohl Claude nebo DeepSeek. „Většinou jsme se tak dostali k informacím, které jsme hledali. O tom, že by naše dotazy u firem vyvíjejících umělou inteligenci spustily nějaký poplach, nevíme. Ani nám nebyl zablokován přístup,“ upozornila dále mikrobioložka.
Čtěte také
Třeba k výrobě nového viru je potřeba velmi zkušený odborník a laboratoř na vysoké úrovni, ale dlouho známé biologické jedy lze získat poměrně jednoduchými postupy z rostlin nebo bakterií. Umělá inteligence zde pomáhá nezkušeným uživatelům omezovat slepé uličky a chyby. Upozornila na to také zářijová zpráva společnosti Anthropic, podle níž byl Claude zablokován několika účtům napojeným na vědce a výzkumné instituce, protože pokládali dotazy související s genetickou úpravou patogenů za účelem zvýšení jejich nakažlivosti a schopnosti obcházet imunitu.
Podle ní se bezpečnostní mantinely zabudované do chatbotů od doby konání experimentu zvedly, ale existuje stále dost slabých míst. „Není jednoduché modely naučit, jak mají odlišovat dotazy položené se zlým úmyslem od těch, za nimiž stojí legitimní výzkum,“ řekla k tomu mikrobioložka Dunja Sabraová.
Nevidí jedinou páku, ale nutné bude podle ní propojit několik opatření, mezi která patří i zvýšení dostupnosti léků, vakcín i ochranných prostředků. „Rizika umělé inteligence musíme dál zkoumat a regulovat ji na státní i mezinárodní úrovni. Firmy vyvíjející umělou inteligenci musejí převzít odpovědnost za chování svých modelů,“ uzavřela Sabraová.
MOHLO BY VÁS ZAJÍMAT: AI brzy nahradí lékaře, předpověděl Prymula. Řekl, kteří jsou nejohroženější
