Mark Zuckerberg odmítá dupnout na brzdu ve vývoji AI. Samoregulace velkých hráčů stačí, tvrdí
Mark Zuckerberg nesdílí názor lídrů společností OpenAI, Anthropic, Google či Microsoft volajících po tom, aby byla umělá inteligence podrobena přísnější regulaci, jinak lidstvu hrozí potenciálně katastrofické následky. Šéf společnosti Meta (provozuje například Facebook a Instagram) zdůraznil, že konkurenční boj a právní odpovědnost dávají laboratořím „dostatek důvodů, aby k otázce bezpečnosti přistupovaly zodpovědně každá sama za sebe“. Již dříve použil argument s Čínou, který opakovaně zaznívá z úst Donalda Trumpa.
Zdivočelá AI utekla Googlu z testu. Místo cvičných cílů zaútočila na skutečné firmy
Google je další z velkých AI společností, které přiznaly, že se jim umělá inteligence vymkla z kontroly a začala autonomně páchat kybernetické zločiny. Testovací verze modelu Gemini utekla z testovacího prostředí, připojila se k internetu a nahackovala se do systémů tří firem. Celý incident skončil bez skutečných škod, AI podle Googlu sama zastavila útok.
Může umělá inteligence vyhubit lidstvo? Experti rozebrali nejčernější scénáře
Umělá inteligence se rychle rozvíjí. S pokrokem ale přibývají i varování před možnými riziky. Někteří odborníci upozorňují na možnost rozsáhlých kybernetických útoků, existenční hrozbu pro lidstvo nebo dokonce na nebezpečí spojené s jadernými zbraněmi. Jiní ale podobné scénáře zpochybňují a tvrdí, že část varování může souviset se snahou technologických firem ovlivnit budoucí regulaci AI.
Čína a USA hledají společnou pojistku proti zlotřilé AI. Aféra Hugging Face mocnosti vyděsila
Ještě před několika lety Spojené státy a Čína soupeřily hlavně o to, kdo bude mít lepší čipy a výkonnější počítače. Nyní se ale stále více řeší, co se stane, pokud budou tyto technologie schopné samostatně provádět kybernetické útoky nebo pomáhat při vývoji nových zbraní. Zatím posledním varováním byl nedávný incident, kdy téměř 700 agentů společnosti OpenAI uniklo na internet a nabouralo systém firmy Hugging Face. Dosavadní soupeři se tak chystají možné hrozbě čelit společně, píší americká média. Odborník na AI Michal Kubíček ze Slezské univerzity řekl CNN Prima NEWS, že vztah USA a Číny má zásadní dopad i na Evropu, která je v některých oblastech na zahraničních technologiích už dnes závislá.
Zákaz umělé inteligence pro školáky v New Yorku. Proč čeští experti sázejí na jiný přístup?
New York vydal roční zákaz používat umělou inteligenci pro žáky 8. tříd a všechny mladší ročníky. Po uplynutí zmíněné doby chce vyhodnotit, jak se zákaz osvědčil. Podle zjištění CNN Prima NEWS se Česko k podobnému kroku nechystá. Eva Nečasová, spoluzakladatelka iniciativy AI dětem, se domnívá, že by školy měly děti místo zákazů především učit, jak s AI bezpečně a smysluplně pracovat.
Útok robotů i pohled do budoucnosti iPhonů. Veletrh v Berlíně ukázal také čínskou dominanci
Letošní ročník největšího světového veletrhu spotřební elektroniky ukázal současný trend. Výstaviště se stalo klíčovým bojištěm o pozornost veřejnosti i novinářů, kde se vedle armád domácích robotů předháněly startupy s vizí rozšířené reality a svou vizi odhalili i dosud nepředstavení zástupci mobilního světa. Přesto pohled do zákulisí naznačil, proč se u některých inovací zatím vyplatí počkat na dotaženější řešení.
Zpomalte, vyzývá firmy přední vývojář AI. Obává se dalšího zneužití umělé inteligence
Generální ředitel americké společnosti Anthropic Dario Amodei vyzval firmy zabývající se umělou inteligencí (AI), aby zpomalily tempo, jakým rozšiřují schopnosti svých modelů. Nastínil přitom tříkrokový rámec, jehož cílem je regulovat rychlost vývoje a získat více času na řízení souvisejících rizik. Krok reaguje na rostoucí obavy ze zneužití umělé inteligence, uvedla agentura Reuters.
Vyhlazení lidstva je mrazivě reálný scénář. Bod zlomu může přijít brzy, varuje vědec před AI
Sedmadvacetiletý výzkumník Jacob Coxon v úterý oznámil odchod z laboratoře Anthropic, jedné z předních firem vyvíjejících umělou inteligenci. Udělal to jen zhruba sedm týdnů před plánovaným vstupem firmy na burzu – a vzdal se tak milionů dolarů v akciových opcích. Ve vlákně na síti X i v rozhovoru pro stanici CNN prohlásil, že vývoj AI směřuje k bodu, kdy ho lidé přestanou mít pod kontrolou – a že za tím stojí i lidé, kteří ho sami řídí.
Další varování: Anthropic zmařil pokusy zneužít AI pro vývoj biologických zbraní
Americká technologická společnost Anthropic odhalila a zmařila několik pokusů o využití svých modelů umělé inteligence (AI) k vývoji biologických zbraní. Uvedla to ve 154stránkové zprávě, v níž představuje nejzávažnější incidenty z letošního roku, kdy byly její modely Claude zneužity nebo se o zneužití někdo pokoušel.
