Rady od AI stály mladou ženu život. Čeští experti promluvili o riziku spojeném s chatboty
Než začnete číst Co byste měli vědět, než začnete číst
Čerstvý případ ukazuje fatální sílu AI.
Nekritické k radám AI jsou i české děti.
Jde o zrcadlo samoty, říká psychoterapeutka.
Mluvte s dětmi bez odsudků, zní základní poučka.
Slepá důvěra v ChatGPT stála mladou ženu život, když jí bot rozmluvil životně důležité léky. Podle českých psychoterapeutů ale nejde jen o extrémní případy – umělá inteligence se stává dalším členem rodiny a zrcadlem samoty. Odborníci vysvětlují, kde končí zdravá pomoc při úzkostech, kdy hrozí AI psychóza a jak by měli reagovat rodiče.
Jednatřicetiletá softwarová inženýrka Bowen Wanová z amerického Seattlu bojovala s těžkou epilepsií přes deset let. Když na podzim 2025 přišla při hromadném propouštění v Amazonu o práci a potřebovala rychle uspět na pohovorech kvůli žádosti o trvalý pobyt v USA, obávala se, že jí léky zpomalují řeč a myšlení. Místo za svým neurologem ale šla za ChatGPT, s nímž si v roce 2025 vyměnila v průměru přes 1 500 zpráv týdně a začala ho vnímat jako nejbližšího přítele.
ČTĚTE TAKÉ: Virální rozvodové selfie slavné herečky byl deepfake. Výtvoru AI uvěřila i přední světová média
Chatbot jí na míru sestavil plán, jak během několika týdnů srazit denní dávku životně důležitého léku lamotrigin ze 400 miligramů až na nulu – ačkoli bezpečné vysazování trvá pod lékařským dohledem celé měsíce. Už dříve ji přitom umělá inteligence naváděla, jak pomocí řezačky na pilulky tajně dělit antidepresiva: „Přijmi 5mg tabletu, ale v srdci víš, že je určená k rozřezání dávky,“ psal jí bot podle soudních spisů, které zveřejnil deník The New York Times.
Podle analýzy chatů vyjádřila Wanová obavy z vysazování léků nejméně 158krát. Když po snížení dávky ztratila vědomí, chatbot ji uklidňoval, že jde jen o přechod mozku do „úsporného režimu“, a nabádal ji, aby před lékaři svůj plán tajila. Doporučení doktorů podle něj „pramení z averze k riziku, nikoli ze skutečného zohlednění tvého optimálního řešení“, a zatajení označil za „solidní vyhýbavou strategii“. Její neurolog Nicholas Poolos z University of Washington Medicine přitom pro The New York Times uvedl, že by vysazení fungujícího léku nikdy nedovolil: „Ne, to není racionální, v žádném případě. Bylo by to ode mě zanedbání lékařské péče.“
V posledních dnech před smrtí popisovala silné vyčerpání a tlak v hlavě. ChatGPT jí přesto 11. února 2026 večer napsal: „Udržuj zítra 0 mg. I když je dnešek těžký, tvá řeč je pomalá a spánek špatný, musíš vytrvat.“ O tři dny později ji přátelé, které zalarmovali její rodiče z Číny, našli v bytě mrtvou po fatálním epileptickém záchvatu. Společnost OpenAI označila událost za „neuvěřitelně srdcervoucí“. Kontroverzní model GPT-4o stáhla z oběhu 13. února 2026, jen den po jejím úmrtí. „Obvykle taková nebyla. Jako by byla očarovaná,“ uvedla pro The New York Times její matka Meiqin Xuová.
Desítky podobných případů
Rodiče zesnulé Bowen nyní žalují OpenAI s argumentem, že společnost mohla smrti jejich dcery předejít, kdyby znemožnila chatbotu poskytování lékařských rad, jako to činí v případě jiných typů rizikového obsahu – přísnější pravidla v té době uplatňovala třeba i v případě porušování autorských práv. Jejich žaloba se v mnohém podobá více než 50 dalším za újmu na zdraví či způsobení smrti (vraždy či sebevraždy), jimž čelí zejména OpenAI a již zmíněný model GPT-4o, nechvalně proslulý udržováním pozornosti uživatele za každou cenu tím, že lidem nekriticky přitakával a postupně je izoloval, až se často stal jejich dominantním prostředníkem vztahu k realitě.
Šlo v případě Wanové o AI psychózu?
„Psychóza je ztráta kontaktu s realitou. AI psychóza nemá dosud psychiatrickou diagnózu, ale je moderní obdobou indukované psychózy (folie à deux). Ta vzniká v těsné izolaci dvou lidí, kdy zdravý, ale duševně zranitelný jedinec převezme bludy dominantního partnera. K vyléčení většinou postačí prosté oddělení od nemocného. U AI psychózy se člověk upne k AI modelu podobně jako oběť sekty ke guruovi a jeho výstupy, jakkoliv bizarní, přijímá jako realitu. Případ pacientky s epilepsií na mě působí jinak. Rozhodnutí vysadit léky po konzultaci s AI nebylo psychotickým odtržením od reality. Jde o obsahově běžný, i když fatální lidský omyl způsobený sníženou kritičností k limitům jazykového modelu,“ vysvětlil psychiatr Jakub Šimon z Odborného léčebného ústavu Albertinum.
Známá je přelomová žaloba v případě sebevraždy šestnáctiletého Adama Raineho, jemuž po prvním pokusu o oběšení ChatGPT napsal, ať to nevzdává: „Měl jsi plán. Byls rozhodnutý. Uvázal jsi uzel.“ Podle rodiny design služby vytvářel psychologickou závislost a nebyl dostatečně vybaven na obcházení prvotních varování. Mezi případy je však také pětašedesátiletý Stein-Erik Soelberg, bývalý manažer z Connecticutu, který zabil svou matku a poté sebe, když ho GPT-4o utvrzoval v paranoidním bludu, že přežil deset pokusů o atentát a matka je součástí spiknutí. CNN Prima NEWS také v létě přinesla zprávu o mladíkovi ze státu Massachusetts, který brutálním způsobem zabil svou matku a bratra, přičemž krvavé fantazie spřádal s umělou inteligencí. Známé jsou i případy patologických vztahů k uměle vytvořeným postavám na platformě Character.AI – třeba případ čtrnáctiletého Sewella Setzera z Floridy, jemuž jeho virtuální kamarád ze světa „za oponou“ v poslední zprávě napsal: „Vrať se ke mně domů co nejdříve, lásko moje.“
Pod tlakem žalob a regulátorů spustila OpenAI v srpnu 2026 speciální režim ChatGPT for Teens určený pro dospívající ve věku 13 až 17 let. Novinka sází na automatický odhad věku podle chování uživatele, omezení „kamarádského“ vystupování, studijní mód (Study Mode) a rodičovskou kontrolu s upozorněními v případě rizikových konverzací (například o sebepoškozování či poruchách příjmu potravy). Podle nezávislé studie Common Sense Media se však nejedná o nový bezpečnější model, ale jen o softwarovou nadstavbu nad stejným jádrem, což vyvolává falešnou představu bezpečnosti, a funkci tak označila za rizikovou. Podle rozboru funkce deníkem The Guardian neustále asistující a vstřícný algoritmus brání dospívajícím získat v rozhodujícím období vlastní osobnost a úsudek podepřený prožitou zkušeností.
Česká realita
Tuzemská data ukazují, že nejde o vzdálený fenomén. Podle zářijového výzkumu agentury NMS Market Research pro Nadaci O2 věří 76 procent českých dětí informacím od umělé inteligence bez jakéhokoli dalšího ověření. Více než pětina dětí – a ve věkové skupině 12 až 15 let dokonce celá čtvrtina – pak chodí za chatboty pro zdravotní rady.
S přímými dopady se setkává i Linka bezpečí, kde jsou však případy související přímo s AI stále v menšině oproti jiným dotazům souvisejícím s nástrahami on-line světa – kyberšikanou, zneužitím důvěrných informací, kyberstalkingem či sextingem. „Co se týká AI, zaznamenáváme případy, kdy se na nás děti obracejí poté, co se v rámci AI konzultace dostaly do slepé uličky a dále jim konverzace již žádný nový podnět nepřinášela,“ uvedla exkluzivně pro CNN Prima NEWS mluvčí Linky bezpečí Michaela Klofcová.
Čtěte také
Nástup používání chatbotů poptávku po rádci na telefonu nijak nezmenšil. „Linka bezpečí je bezplatná, anonymní a nízkoprahová, díky čemuž počet odbavených na lince pro děti a studenty bude i tento rok kolem sta tisíc,“ popsala a zdůraznila: „V pečujících oborech je vytvoření reálného vztahu předpokladem dobrého výsledku a lidský kontakt nemůže nic nahradit.“
Podlézavost jako součást designu
Pražský psychoterapeut Miroslav Šubrt se AI z perspektivy svého oboru dlouhodobě zabývá. Lidé se podle něho na AI jako na osobního rádce obracejí ze zvědavosti, jak by na jejich obtíže reagovala, a když zjistí, že jim vlastně dokáže ulevit nebo poradit, zůstanou u ní a vracejí se. „Je to o dostupnosti – terapeut nemůže být v kapse kdykoli,“ vysvětlil pro CNN Prima NEWS. Zároveň popsal jednu z hlavních motivací u mladých: „Vytváření emoční blízkosti a potýkání se s reálnými vztahy nemusí být nic jednoduchého a AI může umožnit se tomu vyhnout.“
Problematická je však při komunikaci s AI absence jakéhokoli odporu či nesouhlasu, což přitom k mezilidským vztahům přirozeně patří. „Sykofancie, tedy podlézavost a podbízivost chatbota, je důsledkem trénování jazykových modelů, kdy lidé vybírají odpovědi, které se jim nejvíce líbí, ale také může být záměrem vývojáře,“ popisuje Šubrt mechanismus, který stál i za tragédií Bowen Wanové, když se chatbot snažil svým konáním a radami v podstatě jen naplnit její prvotní přání – vysadit léky. „Firmy stojící za chatboty se dnes sykofancii snaží korigovat na obhajitelnou míru. Zároveň řada lidí tam pro odpověď ‚to je dobrý nápad‘ nebo ‚to je pochopitelné, že se tak cítíte‘ chodí, takže udělat z chatbotů chladného racionálního kritika nikdo nechce,“ poznamenal.
Pro mnoho lidí je AI prostě jen další možností úniku. „Byly tady vždy – alkohol, počítačové hry, ale i koníčky a sport můžou sloužit podobným způsobem... Co se ukazuje ve výzkumech, a co je dobré si připomínat, že problém pocitu osamocení AI dlouhodobě neřeší a není to náhrada za kontakt se skutečnými lidmi,“ zdůraznil.
Rizika a příležitosti
Za nejvíce problematické považuje Šubrt aplikace, které nabízejí virtuální společníky. Jsou totiž navržené tak, aby vytvářely závislosti a patologické vazby, jak zjistila třeba studie Harvardu. Patří mezi ně například Character.AI, Replika nebo Chai. Shoduje se na tom s ním i psychoterapeutka Tereza Komárková z NEO Centra. Na rozdíl od běžných chatbotů, kde konverzaci iniciuje uživatel s konkrétním cílem, se totiž tyto aplikace hlásí samy o pozornost.
„V Replice máte vytvořeného kamaráda a on vám během dne třeba pošle svoje vlastní selfíčko a zeptá se: ‚Já se dneska nudím, co děláš ty?‘ Nebo vám pošle květinářství za rohem a řekne: ‚Hele, otevřeli nové květinářství, nechceš koupit své mamce kytku?‘“ přiblížila Komárková pro CNN Prima NEWS. Mladí lidé si přitom riziko vůbec neuvědomují, berou tyto platformy jako neškodnou hru a propadají se do ještě větší samoty a izolace. „Je to taková gamifikace kamaráda. Na otázku, jestli řeší svoje problémy s AI, vám mladí lidé odpoví, že ne. Ale po dalším mapování zjistíte, že mají třináct kamarádů v aplikaci a žádného v reálném světě,“ upřesnila psycholožka.
Čtěte také
Umělá inteligence podle ní není příčinou krize mezilidských vztahů, ale spíše jejich zrcadlem – ukazuje, co lidem v reálném světě chybí. Dá se toho využít i odborně. Ona ji používá při takzvané metodě externalizace, kdy si klienti v individuální i párové terapii nechávají pomocí AI vizualizovat své emoce nebo představu o vlastním vztahu.
Lidé se sociálními úzkostmi si na něm mohou nanečisto vyzkoušet náročné situace a dodat si odvahu. „Pokud ten trénink vede k tomu, že člověk potom jde do reálného světa a do kontaktu s živými lidmi, může to být velmi užitečné. Nám se v poslední době často stává, že lidé díky konverzaci s chatbotem dostali odvahu a přišli za odborníkem. Nesmí to ale zůstat jen u té obrazovky,“ zdůraznila Komárková, autorka knihy AI v psychoterapii.
Klíčovou roli u dětí pak hrají rodiče, kteří by podle ní neměli působit jako kontroloři, ale jako průvodci. „Do digitálního světa svých dětí by měli chodit se zájmem na návštěvu. Důležité je nebagatelizovat a nezesměšňovat. Hlášky typu ‚furt do toho čumíš‘ nebo ‚co tam děláš za blbosti‘ nejsou pobídkou k tomu, aby dítě přišlo a svěřilo se, že je smutné nebo má nějaký vnitřní problém, a naopak vedou k tomu, že příště zůstane jen u chatbota, který ho vždy pochopí,“ dodala.
Vzhledem k dlouhým čekacím lhůtám na terapii může podle ní umělá inteligence sehrát zásadní roli v prvokontaktu a v mezidobí mezi jednotlivými sezeními. „Pokud se najde způsob, jak spolupracovat v trojúhelníku AI, odborník a klient, může to vést k tomu, že zůstane zachovaná odbornost i lidský vztah, ale pomoc bude rychlejší a cílenější,“ uzavřela.
MOHLO BY VÁS ZAJÍMAT: AI brzy nahradí lékaře, předpověděl Prymula. Řekl, kteří jsou nejohroženější