Další varování: Anthropic zmařil pokusy zneužít AI pro vývoj biologických zbraní
Claude od společnosti Anthropic Zdroj: Profimedia.cz
Americká technologická společnost Anthropic odhalila a zmařila několik pokusů o využití svých modelů umělé inteligence (AI) k vývoji biologických zbraní. Uvedla to ve 154stránkové zprávě, v níž představuje nejzávažnější incidenty z letošního roku, kdy byly její modely Claude zneužity nebo se o zneužití někdo pokoušel.
V uplynulém roce týmy firmy také podle zprávy prošetřovaly a zmařily činnost řady aktérů, kteří využívali systémy Claude k vývoji softwaru pro návrh a vývoj zbraní nebo k podpoře sběru zpravodajských informací a zásobování, na nichž jsou zbrojní programy závislé. Zpráva se podrobněji zabývá šesti případy vojenského využití, z toho třemi v Číně, dvěma v Rusku a jedním v Jemenu. Mimo jiné se prý Anthropiku podařilo zmařit ruskou operaci usilující o vývoj autonomního roje vojenských dronů.
ČTĚTE TAKÉ: Tragický útok v Lidlu: U pokladen německého supermarketu došlo k ubodání ženy
Podle dokumentu modely Claude využívali mimo jiné aktéři spojení s kybernetickou špionážní kampaní vedenou z Ruska nebo jistá íránská propagandistická instituce. Zpráva dále popsala pět případových studií, v nichž aktéři využívali modely „způsobem, který by mohl podporovat vývoj biologických zbraní“.
Zneužití v biologické oblasti je podle firmy jedním z nejzávažnějších rizik pokročilých modelů AI. Bez správných bezpečnostních opatření by takové schopnosti mohly mít katastrofální důsledky, varují autoři zprávy.
Zpráva také popisuje devět vlivových operací vedených z Ruska, Íránu, Turecka, zemí Perského zálivu, jižní Asie, Afriky a Evropy, jejichž cílem bylo publikum na šesti kontinentech. Aktéři v tomto případě nevyužívali AI pouze k vygenerování konkrétních článků, ale k plánování celých kampaní, generování veškerého obsahu, i ke spravování falešných profilů a dezinformačních webů. Obsah se objevil i v médiích spojených s ruskou vládou, jako Sputnik Moldova, RIA Novosti, Sputnik en Español, Sputnik Africa či RT.
Sanders: Je třeba vývoj pokročilé AI pozastavit
Podle serveru BBC zjištění uvedená v této zprávě představují nejnovější z rostoucí řady varování ze strany výzkumníků AI a odborníků z oboru ohledně potenciálních rizik této technologie pro lidstvo.
Varování vyvolala výzvy k přijetí opatření, přičemž americký senátor Bernie Sanders požaduje pozastavení vývoje pokročilé AI a zákaz takzvané umělé superinteligence, což je název pro hypotetické systémy AI, které by intelektuálně překonávaly lidskou inteligenci, včetně těch nejnadanějších jedinců. Americký prezident Donald Trump naopak podobné hlasy odmítá.
Výzkumník společnosti Anthropic Jacob Coxon tento týden oznámil, že odchází z firmy i oboru kvůli obavám, že Anthropic a jeho konkurenti příliš rychle vyvíjejí systémy schopné samostatného zdokonalování, které by se podle něj mohly vymknout lidské kontrole.
Koncem července více než 1000 zaměstnanců ze všech významných společností zabývajících se umělou inteligencí podepsalo petici, v níž požadují zavedení mechanismu zpomalujícího tempo vývoje umělé inteligence.
MOHLO BY VS ZAJÍMAT: Zákeřný útok na Pentagon z 11. září: Tisíce životů zachránila náhoda
Spolehlivý, rychlý a nezávislý zpravodajský servis.
