Umělá inteligence v lidech probouzí ty nejzákladnější děsy. Čeho se tak bojíme?
Než začnete číst Co byste měli vědět, než začnete číst
Deepfaky a AI břečka ničí důvěru v objektivní pravdu.
Datacentra jsou největší ekologickou výzvou současnosti.
Soupeření s Čínou v řízení společnosti i vedení válek.
Pohled z druhé strany od renomovaného českého AI vědce.
Zatímco se veřejná debata často točí kolem apokalyptických scénářů o procitnutí strojů, reálná rizika generativní AI leží úplně jinde – od obřích nároků na energetickou síť až po nenápadné prorůstání algoritmických systémů do státního aparátu a armád. Kde všude naráží současný AI boom na své limity a jaké jsou důvody rostoucí negativity veřejnosti vůči této přelomové technologii? To vše se dozvíte ve druhé části obsáhlého článku.
V předchozí části textu jsme upozornili na to, jak se mění nálady lidí vůči AI a jak ji i nastupující generace Z začíná vnímat převážně jako riziko a hrozbu pro svou kariéru i budoucnost – 31 % mladých dokonce cítí vůči umělé inteligenci hněv. Rozebrali jsme dva hlavní způsoby, jimiž AI zdražuje lidem život, podívali jsme se na široce diskutovanou devalvaci lidské práce, problém extrémní koncentrace bohatství a také obavy, že je celý obor předlužený a splasknutí AI bubliny s sebou stáhne celosvětovou ekonomiku.
Čtěte také
6) Relativizace pravdy a záplavy břečky
Ohýbat realitu a manipulovat s ní je v éře bleskového generování deepfaků snadnější než kdykoli dřív. Největší společnosti sice zavádějí způsoby označování AI výtvorů pomocí metadat (standard C2PA) nebo vodoznaků, lze je však snadno obejít. Paranoia zpochybňující pravost jakéhokoli (nejen) vizuálního obsahu došla tak daleko, že mezi nejpoužívanější způsoby použití AI patří dnes ověřování, zda něco nevzniklo s pomocí AI. Na sociální síti X.com je nejčastější frází dotaz na Groka, vestavěného AI bota: „@grok is this real?“ nebo „@grok is this AI?“. Je takové ověření spolehlivé? Podle odborníků ani zdaleka, přesto v lidech vyvolává falešný pocit jistoty.
ČTĚTE DÁLE: Francie jako první v EU omezila sociální sítě. Zákaz však přináší další problém, líčí expertka.
Sociální sítě nástup AI přivítaly, protože více obsahu znamená větší engagement (více pozornosti uživatele), a tedy i větší objem odtočené reklamy, a umělá inteligence otevřela tvůrcům stavidla naplno. Jenže záplava vygenerovaného obsahu dostala brzy nelichotivou přezdívku AI slop (AI břečka) a dnes už se třeba v herním i filmovém průmyslu používání AI taktně zamlčuje. Magazín Deadline popsal, jak se v Hollywoodu podepisují přísné dohody o mlčenlivosti a úpravy s pomocí generativních nástrojů se v titulcích schovávají pod položkami jako postprodukce nebo střih zvuku.
Samostatnou kapitolou je pak změna ve vnímání duševního vlastnictví. Mluví se o tom, že AI společnosti natrénovaly své modely bez předchozího svolení na veškerých znalostech a tvůrčím bohatství jednotlivců i celých společností, aby jim je pak zpátky prodávaly za předplatné jako produkt. Stále více lidí i organizací řeší AI opt-out, tedy mechanismus aktivního nesouhlasu s využitím osobních či firemních dat pro trénování umělé inteligence nebo zablokování indexování těchto dat pro AI nástroje. Z desítek velkých soudních sporů lze zmínit třeba nedávný případ, kdy Anthropic vyplatil jako urovnání skupině amerických spisovatelů 1,5 miliardy dolarů za to, že jejich knihy používal při trénování svých AI modelů.
7) Ekologická zátěž
AI je sice hi-tech obor, ale k uhlíkově neutrálnímu odvětví má hodně daleko. Jenom v USA do roku 2030 zvýší podle odhadů ministerstva energetiky celkovou spotřebu elektrické energie o desetinu a o dalších pět let později už si bude brát pětinu veškeré energie. Právě kvůli energetické, materiálové a infrastrukturní náročnosti bývá AI v mnoha aspektech řazena spíše k těžkému průmyslu než k IT.
Přestože serverové systémy společnosti Nvidia nedávno představené architektury Vera Rubin už pracují s uzavřeným systémem chlazení a citelně tak snižují spotřebu vody, začnou se ve větší míře nasazovat až v roce 2028. V datacentrech se budou dříve zakoupené a méně efektivní chladicí systémy starších generací instalovat a provozovat ještě řadu let.
Příprava stavby obřího 150 hektarového datacentra společnosti Amazon v americké Virginii Zdroj: Getty Images
Jako příklad ekologické zátěže může posloužit projekt gigantického AI datacentra Stratos, který už dostal prvotní povolení a má mít třikrát vyšší spotřebu energie než celý americký stát Utah, na jehož území se připravuje. Komplex o rozloze více než 16 tisíc hektarů bude i obřím radiátorem. Profesor fyziky Robert Davies z Utah State University zveřejnil studii, v níž uvádí, že tepelná zátěž odpovídá tomu, „jako byste do místního prostředí každý den shodili 23 atomových bomb“. Území kolem datacentra se podle něho ve dne oteplí o zhruba 3 °C, v noci až o 6,7 °C.
Přehlíženým aspektem je rostoucí množství e-odpadu. Podle studie Scimexu v roce 2030 dosáhne množství vyhozených komponent z AI datacenter 2,5 milionu tun ročně, přičemž recyklační průmysl aktuálně nemá postupy, kterými by dokázal v takových objemech alespoň část materiálů vrátit do oběhu.
Zatímco v tradičních datacentrech byla životnost komponent zhruba šestiletá, zkrátila se s nástupem AI na tři roky a v případě trénování těch nejpokročilejších frontier modelů je využíván vždy jen ten nejpokročilejší hardware. Opotřebovaný je přeřazen na méně náročný režim inference, kde rok až dva dosluhuje. Hyperscaleři se kvůli nákladům i snaze prodloužit odpisy za již zakoupený hardware snaží cyklus prodloužit, jenže spotřeba novějších čipů je často o tolik nižší, že nedává ekonomický smysl provozovat ty staré.
AI datacentrum zevnitř (ilustrační fotografie) Zdroj: Profimedia
Nvidia (její hardware podle analýz pohání kolem 85 % AI datacenter) se snaží spolu s partnery vyvinout dostatečně účinné způsoby recyklace, motivace je přitom hlavně ekonomická. „Jediné serverové GPU může obsahovat několik gramů zlata a dalších drahých kovů, které by jinak skončily na skládkách,“ připomíná Massed Compute.
8) AI jako předpoklad všudypřítomného špionstátu
Každá diktatura dosud selhávala kvůli neschopnosti dokonale sledovat a kontrolovat. Špehující oči a uši sice mohly být prakticky všude, jenže analyzovat obří množství dat bývalo nemožné. Před mnoha lety to změnila Čína jako průkopník využívání neuronových sítí při vyhodnocování chování obyvatel ve fyzickém i online prostoru. Systém tzv. sociálního kreditu tam od roku 2020 určuje, na jakou školu můžete být přijati, zda dostanete hypotéku, budete moci cestovat atd.
Podřízení technologií vládnoucí třídě je v Číně zákonem danou věcí, ale prorůstání státu a technologických společností se děje i na Západě. Modely AI gigantů jako Claude a OpenAI se přes přímé kontrakty, ale i skrze integraci do systémů společností jako Palantir stávají součástí velkých vládních zakázek pro tajné služby a armádu, které sahají až k automatizovanému vyhodnocování cílů. Software Palantiru používá i diskutovaný americký Imigrační a celní úřad neboli ICE, kde slouží k něčemu, co kritici nazývají deportací algoritmem.
Čtěte také
Hlavní benefit takových partnerství je pro AI-korporace jasný – spojit se s někým, kdo by je měl zároveň regulovat. Nejčastějším argumentem proti regulacím a pro překračování dosavadních tabu je přitom právě soupeření s Čínou. „Žádné rozhodnutí není bez rizika… Buď budeme dominantním hráčem my, nebo bude dominantním hráčem Čína,“ prohlásil Alex Karp, spoluzakladatel Palantiru, v Axios Show, kde zároveň zdůraznil, že Amerika selže, když se bude podřizovat diskuzím o lidských právech.
Kontrakty s Palantirem mají mimo jiné i Velká Británie, Izrael, Dánsko nebo Německo, kde vzbudila pozornost i zakázka na cloudový letecký systém za 580 milionů eur, propojující stíhačky, drony či satelity do jednoho inteligentního bojového celku. Získal ji Helsing, nejrychleji rostoucí obranný startup v Evropě.
9) Duch ve stroji a lidstvo jako relikt minulosti
Stroje nabudou vědomí a pak se zbaví svých strůjců tím, že vyhladí lidstvo, jako Skynet v Terminátorovi. Jde o populární refrén, který se jako apokalyptická vize neustále vynořuje. Může se zdát jako paradox, že o nabytí vědomí srovnatelného s lidskou inteligencí, tedy dosažení obecné umělé inteligence (AGI), mluví často varovným tónem právě zástupci největších AI společností... podobně jako když výrobci alkoholu financují osvětové kampaně za zodpovědné pití bez rizika.
Strašení je v tomto případě způsob, jak dát najevo, že to jsou právě oni, kdo jsou v AI závodech nejdále, jen krůček od další zlomové AGI kapitoly – cesta, jak pumpovat očekávání a udržovat investory v dobré náladě. OpenAI třeba nedávno sama na sebe požalovala, že její autonomní AI agent při testování zdivočel, unikl z karantény a sofistikovaným způsobem se snažil nabourat do databáze startupu Hugging Face. Nedlouho poté přišel s podobným prohlášením konkurenční Anthropic, tentokrát se měl jeho AI agent nabourat dokonce do počítačových systémů tří organizací. A přidala se i Meta. Mezitím se rozhořela debata, zda je takový druh zjevně nepříliš dobře zabezpečeného testování vůbec legální a zda lze spoléhat na AI společnosti, že své modely samy dostatečně zajistí před dalšími incidenty.
V médiích se často o AI agentech píše, jakoby disponovali lidským vědomím. Nic naplat, že výsledky výzkumu z roku 2025 mezi předními vědci z oboru ukázaly něco jiného: 76 % z nich se domnívá, že skutečná AGI (v nezredukované definici) nebo dokonce superinteligence (ASI) nemůže z mnoha důvodů vzniknout na principu jazykových modelů, ať už se do nich napumpuje jakýkoli výkon, či se doplní o tzv. modelování světa.
Demis Hassabis z Google DeepMind přesto v březnu 2026 během Google I/O vzletně prohlásil: „Až se za touto dobou v budoucnu ohlédneme, myslím, že si všichni uvědomíme, že jsme právě stáli na úpatí singularity. Bude to pro lidstvo přelomový okamžik.“ Zní to prorocky až mesiášsky, kdyby bod singularity pro spoustu lidí neznamenal sice oslnivé světlo, ale z atomového hřibu, jímž Skynet ve zmíněném filmu zahájil jadernou válku s lidstvem. Myslící stroj totiž v lidech aktivuje tu nejzákladnější emoci, na kterou se zaměřuje následující bod. Celý článek se jím dostává do trochu jiné perspektivy.
10) Iracionální strach z neznáma
Strach nepotřebuje faktické argumenty z předchozích devíti bodů. Všudypřítomné obavy z AI lze číst prostě jako přirozenou iracionální reakci na něco nového a neznámého, jako když lidé na počátku průmyslové revoluce ničili stroje v obavách, že je nahradí.
Zajímavý pohled na AI jako na zesilovač pozitivních i negativních stránek lidství přinesl v roce 2023, na počátku AI boomu, jeden z předních českých vědců zabývajících se velkými jazykovými modely, dr. Gustav Šír z Fakulty elektrotechnické ČVUT. V textu Pět lidských hrozeb umělé inteligence popsal rizika jako aroganci, povrchnost, soutěživost, chamtivost a pýchu. Z dnešní perspektivy by na textu nic zásadního neměnil. „Hlavní odchylka oproti době, v níž jsem článek psal, je asi tempo posunu velkých jazykových modelů, které – ač stále bezprecedentní – přece jen nepůsobí tak překotně jako tehdy,“ řekl Šír exkluzivně pro CNN Prima NEWS.
Čtěte také
Uvnitř vědecké komunity panuje z přínosů umělé inteligence převážně nadšení, ale Šír chápe i znepokojení u profesí, které jsou už dnes citelně zasaženy. „Jsou rovněž lidé, kteří se této technologii vyhýbají, nevidí, jak z ní benefitovat, ale zároveň se bojí, že jim něco uteče, či že někdo bude s pomocí AI benefitovat na nich, a tady podotýkám, že se bojí oprávněně,“ připustil.
Zároveň připomněl, že lze aktuální období vnímat jako zlatý věk umělé inteligence. „Větší negativní dopady zatím nejsou bezprostřední, možnosti využití jsou již velmi široké a technologie je pro uživatele stále silně dotovaná, což nemusí trvat dlouho,“ shrnul.
Více naděje vyvolává podle Šíra umělá inteligence v asijských zemích, které tradičně chápou technologický rozvoj jako součást svých národních strategií, což však nebývá případ Česka. „Skeptického českého ducha těžko něco převáží,“ poznamenal. Připomněl však, že na překotný vývoj nestíhají reagovat vlády ani společnost nikde ve světě. Přesto už vidí iniciativy jako třeba Evropský akt o umělé inteligenci, jenž vymezuje bariéry a dělá prostředí transparentnějším.
A kam se staví v debatách o AGI, myslících strojích a sporech, zda je takový zlom už za dveřmi? Považuje je svým způsobem za žabomyší války lidí uvnitř oboru: „K tomu, abychom mohli stávající vývoj považovat za přelomový, už další posun AI ani nepotřebujeme.“
Žádný z předchozích technologických zlomů se neobešel bez společenských otřesů a hledání nové rovnováhy. Primitivní strach pokrok nikdy nezastavil, často ale přehlušil to nejdůležitější – věcnou a kritickou debatu. I ta největší rizika, která se dnes mohou zdát nepřekonatelná, se z historického pohledu nakonec pravděpodobně ukáží jen jako další hrboly na cestě. Jak moc se společností zatřesou, však záleží právě na úrovni debaty, kterou si AI rozhodně zaslouží.
SLEDUJTE TAKÉ: Starship úspěšně dokončila svou misi. Tahle raketa má dopravit lidi na Měsíc.
