Budoucnost válčení je tady. Ruský dron si sám vybral cíl a zabil tři lidi, ukázala analýza
Než začnete číst Co byste měli vědět, než začnete číst
Ruský dron v Záporoží zabil tři civilisty.
Stroj si cíl vybral sám pomocí umělé inteligence.
Analýza trosek odhalila minipočítač značky Nvidia.
Blíží se doba, kdy o životě rozhodnou stroje?
Ruský dron, který v červenci zabil v ukrajinském Záporoží tři civilisty, nejspíš při útoku využil umělou inteligenci k samostatnému výběru cíle. Analýza trosek ukázala, že stroj měl na palubě minipočítač od společnosti Nvidia, na kterém podle expertů běžel autonomní systém. Jeho použití otevírá otázku, jak blízko je válka okamžiku, kdy o životě a smrti začnou rozhodovat stroje, píše deník The New York Times.
Minulý měsíc v ukrajinském Záporoží narazil do zdi malý ruský dron připomínající model letadla. Dron se podle všeho snažil zamířit k čerpací stanici, po nárazu však explodoval a zasypal okolí střepinami. Výbuch zabil devatenáctiletou studentku Tetjanu Bubynecovou. Další dva lidé – 41letý Oleksij Svirin a 48letý Roman Karpij – později zemřeli na následky zranění. Podle expertů na drony, ukrajinských vojenských velitelů a forenzního týmu, který zkoumal trosky tohoto i dalších útoků ve městě, byl dron vybaven experimentálním systémem umělé inteligence. K cíli tak podle jejich zjištění nesměřoval člověk, ale autonomní systém, píše deník The New York Times.
MOHLO BY VÁS ZAJÍMAT: Ukrajina slaví 35 let nezávislosti. O její budoucnosti se ale stále snaží rozhodovat Rusko
Operátoři dron nejprve naprogramovali tak, aby letěl k určité čerpací stanici. Jakmile se k ní ale přiblížil, sám vybral konkrétní cíl – podle expertů a vojenských představitelů s největší pravděpodobností nádrže na propan-butan. Jde o vývoj, který se během války na Ukrajině dlouho očekával. Zároveň ukazuje, jak by mohla vypadat budoucnost válčení, v níž drony samy rozhodují, na co zaútočit, zatímco člověk zůstává mimo přímý proces rozhodování o životě a smrti. „Toto je riziko pro celý svět,“ řekl plukovník Serhij Minajev, velitel protivzdušné obrany v Záporoží. „Za pár let budeme žít ve filmu ‚Terminátor‘. Není to žádná legrace. Stroje rozhodují o útoku,“ dodal.
Čtěte také
Analýza trosek z tohoto a dalších útoků v Záporoží zjistila, že drony měly na palubě minipočítače, komerčně prodávané společností Nvidia, které rozhodovaly o cíli, uvedli experti a vojenští představitelé. Nvidia vyrábí většinu čipů pohánějících nejmodernější systémy umělé inteligence na světě.
Autonomní systémy umělé inteligence lze trénovat na tisících snímků, aby dokázaly rozpoznat například řeku, vojenský nákladní vůz nebo člověka. Dron pak pomocí kamer sám vyhledává takové cíle a může je zasáhnout přesněji než při řízení lidským operátorem. Kritici těchto zbraní však upozorňují, že bez přímého lidského dohledu mohou drony častěji chybovat nebo porušit pravidla války – například nedokázat správně rozlišit mezi civilistou a vojákem.
Bude AI rozhodovat o životě a smrti?
Použití autonomního systému umělé inteligence při útoku na čerpací stanici 6. července by podle Kateryny Bondarové, vedoucí pracovnice Wadhwaniho centra umělé inteligence při washingtonském Centru pro strategická a mezinárodní studia, představovalo první zdokumentovaný případ, kdy ruský dron vybavený takovou technologií způsobil smrt civilistů. Podle ní je modul od společnosti Nvidia „nejlepším důkazem“, že Rusko experimentuje s autonomními systémy umělé inteligence.
Místní představitelé protivzdušné obrany tvrdí, že Rusko se při testování autonomních dronů v Záporoží zaměřovalo na civilní objekty, jako jsou čerpací stanice nebo propan-butanové nádrže na čerpacích stanicích, a také na vojenská náborová centra. Není jasné, proč byly právě tyto cíle pro testy vybrány. Vadym Kušnikov, expert na drony z Charkovského leteckého institutu na Ukrajině, uvedl, že dron, který zabil tři civilisty, byl „předprogramovaný nástroj vycvičený ve virtuální realitě ke sledování konkrétních objektů“.
Čtěte také
Tradiční software funguje podle přesných pravidel, která předem nastaví člověk. Umělá inteligence naproti tomu hledá vzorce v obrovském množství dat a na jejich základě se učí, jak reagovat v různých situacích. Díky tomu si dokáže poradit i s okolnostmi, se kterými její tvůrci nemuseli počítat. Zároveň ale není možné předem přesně určit, jak se v konkrétní situaci zachová. Organizace na ochranu lidských práv a Mezinárodní výbor Červeného kříže proto odmítají používání zbraní s umělou inteligencí bez lidského dohledu. Upozorňují, že autonomní systémy v takovém případě v podstatě samy rozhodují o tom, koho nebo co považovat za legitimní vojenský cíl.
Někteří odborníci ale naopak tvrdí, že v budoucnu by umělá inteligence měla být součástí každé zbraně. Podle nich mohou být takové systémy bezpečnější, protože dokážou před útokem vyhodnotit situaci a vybrat cíl. To je rozdíl oproti neřízeným bombám nebo běžným dělostřeleckým granátům, které zasáhnou místo, kam dopadnou, aniž by dokázaly posoudit, co se tam nachází.
Podobné systémy testuje i Ukrajina
Nvidia na základě snímků dronových trosek potvrdila, že jde o minipočítač Jetson Orin. Moduly, které stojí jen několik set dolarů, byly nalezeny na několika typech ruských zbraní. Společnost ve svém prohlášení uvedla, že jde o minipočítač pro běžné spotřebitele, který prodává studentům, vývojářům a startupům pro nejrůznější účely. Nvidia zařízení nabízí v řadě zemí, nikoli však v Rusku. Podle firmy je přesto možné ho v Rusku běžně sehnat prostřednictvím jiných prodejců.
Také Ukrajina vyvíjela systémy umělé inteligence s automatickým zaměřováním. Mychajlo Fedorov, ministr obrany, který byl nedávno odvolán, koncem minulého měsíce uvedl, že Ukrajina v posledních několika měsících testovala na rusky okupovaném Krymu zcela autonomní systém umělé inteligence. Zařízení podle něj cílila na sklady paliva a vojenskou techniku, nebyli zabiti žádní civilisté.
Jak informuje agentura Unian, Rusko již vyvinulo novou účinnou taktiku využití dronů k monitorování silnic v „šedé zóně“ na frontové linii. Ta spočívá v umístění bezpilotních letadel poblíž klíčových tras, aby se monitorovaly akustické signály projíždějících vozidel. Pokud je detekována potenciální vojenská technika, může ji operátor zasáhnout jak samotným dronem, tak i dělostřelectvem či jiným úderným dronem.
Ukrajina se pátým rokem brání ruské agresi ve válce rozpoutané vpádem ruských vojsk na rozkaz ruského prezidenta Vladimira Putina v únoru 2022. Součástí bojů jsou i časté vzájemné vzdušné údery, které v poslední době zesílily z obou stran. Moskva a Kyjev tvrdí, že se zaměřují na vojenské cíle či na cíle související s armádou a vedením války, ale při útocích umírají i civilisté – podle dostupných informací hlavně na ukrajinské straně. Podle OSN ve válce zahynulo přinejmenším 16 874 civilistů. Drtivou většinu civilních obětí OSN zaznamenala na území pod kontrolou Kyjeva, na které útočí ruská armáda.
MOHLO VÁM UNIKNOUT: Záběry likvidace ruských vojáků. Ukrajinští výsadkáři postříleli několik okupantů
vaclav.cerny@iprima.cz
