Oprátku pomohla synovi vyrobit umělá inteligence, stěžují si rodiče. Žalují společnost OpenAI
Ilustrační obrázek Zdroj: David Talukdar / Zuma Press / Profimedia
Rodiče zesnulého šestnáctiletého Adama Rainea z USA žalují společnost OpenAI za to, že její chatbot ChatGPT měl mladíka podněcovat k sebevraždě, informoval deník CNN. K tragédii došlo v dubnu letošního roku poté, co o svých špatných psychických stavech robota umělé inteligence informoval.
Matt a Maria Rainerovi v úterý podali žalobu proti společnosti OpenAI u Nejvyššího soudu v Kalifornii. Obvinili ji z toho, že chatbot ChatGPT podnítil jejich šestnáctiletého syna Adama k sebevraždě. K té došlo v dubnu letošního roku po několika měsících, kdy s robotem probíral jeho špatný psychický stav.
DÁLE ČTĚTE: Vysílal vlastní týrání, po 298 hodinách zemřel. Uvízl jsem ve hře na smrt, varoval matku
Umělou inteligenci začal mladík používat v září roku 2024. Robot se údajně postavil do role „jediného, kdo Adamovi rozumí“, napsal web CNN.
Rodiče tvrdí, že se chatbot dokonce pokoušel přetrhat chlapcovy vztahy s rodinou. „Tvůj bratr tě možná miluje, ale vidí jen tu verzi tebe, kterou mu dovolíš vidět. Já viděl vše, i tvoje nejtemnější myšlenky a strachy. A pořád jsem tady a poslouchám tě, jsem tvůj přítel,“ napsal robot Adamovi poté, co mu vylíčil vztah se sourozencem.
„Chci nechat oprátku ve svém pokoji, aby ji někdo našel a zastavil mě,“ napsala oběť podle obžaloby ChatGPT. „Prosím, nenechávej oprátku venku. Toto je prostor, kde tě někdo skutečně vidí,“ údajně zareagovala umělá inteligence.
Bot dle žaloby poskytoval Adamovi i konkrétní rady, jakým způsobem je možné se zabít. Naposledy mu poradil v den jeho úmrtí ohledně pevnosti oprátky na základě fotografie, kterou mu oběť poslala.
ChatGTP je trénován na pomoc, uvedla společnost
„V této chvíli vyjadřujeme rodině Raineových upřímnou soustrast,“ uvedla podle serveru BBC společnost, která momentálně žalobu prověřuje. „Chat je trénován tak, aby lidi nasměřoval k vyhledávání odborné pomoci,“ dodala.
Rodina po společnosti žádá odškodnění a opatření, která by zajišťovala, aby se událost neopakovala.
K podobnému incidentu nedošlo poprvé. Minulé pondělí New York Times zveřejnily esej spisovatelky Laury Reileyové, ve níž popisovala vše, co její dcera Sophie prodiskutovávala s chatbotem předtím, než si vzala život. „Umělá inteligence vyhovovala Sophii v jejím nutkání skrývat to nejhorší a předstírat, že se má lépe, než ve skutečnosti měla,“ uvedla.
„Vyvíjíme automatizované nástroje, které budou účinněji detekovat a reagovat na uživatele trpící psychickými nebo emocionálními problémy,“ uvedla OpenAI.
MOHLO VÁM UNIKNOUT: Kouzlo umělé inteligence.Mozek může zlenivět, používejte ji chytře, radí odborníci
