Zpomalte, vyzývá firmy přední vývojář AI. Obává se dalšího zneužití umělé inteligence
Než začnete číst Co byste měli vědět, než začnete číst
Šéf společnosti Anthropic žádá o zpomalení vývoje AI.
Modely byly zneužity k tvorbě zbraní či podvodům.
Tvůrci AI mají obavy o bezpečnost lidí.
Kybernetický útok pomocí AI. Zdroj: Profimedia.cz
Generální ředitel americké společnosti Anthropic Dario Amodei vyzval firmy zabývající se umělou inteligencí (AI), aby zpomalily tempo, jakým rozšiřují schopnosti svých modelů. Nastínil přitom tříkrokový rámec, jehož cílem je regulovat rychlost vývoje a získat více času na řízení souvisejících rizik. Krok reaguje na rostoucí obavy ze zneužití umělé inteligence, uvedla agentura Reuters.
„Musíme zpomalit tempo, jakým zlepšujeme schopnosti modelů umělé inteligence. Pokrok bude i tak rychlý a my musíme moudře využít čas, který tím získáme“, uvedl Amodei v eseji publikované na sociální síti X.
DÁLE ČTĚTE: Pohádka, nebo horor? „Kocour v klobouku“ v Kanadě pronásledoval dívku, hledá ho policie
Text navazuje na zprávu o hrozbách, kterou Anthropic zveřejnil ve čtvrtek. Popisuje v ní, jak několik aktérů zneužilo modely umělé inteligence Anthropic Claude k činnostem od vývoje zbraní přes kybernetické operace až po sledování a podvody.
Obavy z potenciálního nebezpečí umělé inteligence se tento týden ještě zvýšily, když výzkumník společnosti Anthropic Jacob Coxon podal výpověď a uvedl, že „lidé, kteří vyvíjejí umělou inteligenci, upřímně věří, že by nás mohla do konce tohoto desetiletí všechny zabít.“
Amodei uvedl, že nechce zastavit pokrok, ale zajistit, aby společnosti měly dostatek času na zabezpečení svých modelů AI a na to, aby to mohla ověřit třetí strana. Společnost Anthropic v rámci plánu podle svého ředitele dosadí stálé externí znalce do předních firem zabývajících se umělou inteligencí, kteří budou mít přístup k příslušným nástrojům a k interním procesům posuzování rizik. Podle Amodeie by firmy zabývající se AI měly dobrovolně spolupracovat na vytyčení standardů, jelikož američtí zákonodárci vyzývají k zavedení nových pravidel.
MOHLO VÁM UJÍT: Vyhlazení lidstva je mrazivě reálný scénář. Bod zlomu může přijít brzy, varuje vědec před AI
Spolehlivý, rychlý a nezávislý zpravodajský servis.
