Ilustrační foto Zdroj: profimedia/ČTK
Můj čtrnáctiletý syn spáchal sebevraždu kvůli chatbotovi s umělou inteligencí, je přesvědčena žena z amerického státu Florida. Proto se rozhodla podat žalobu na společnost Character.AI. Podle ní neudělala dost pro to, aby jejího syna ochránila, uvedla americká CNN.
Syn Megan Garcíové začal aplikaci Character.AI poprvé používat v dubnu 2023, krátce po svých čtrnáctých narozeninách. Tato aplikace využívá umělou inteligenci a svým uživatelům umožňuje konverzovat s různorodými chatboty, kteří mohou být vymodelováni například podle slavných osobností. Uživatelé si také mohou vytvořit svého vlastního chatbota a s ním následně vést konverzaci. Sama Character.AI o své technologii mluví jako o „umělé inteligenci, která působí jako živá“.
ČTĚTE TAKÉ: Umělá inteligence obešla zákaz člověka. Prolomila hranici, experti prozradili největší slabinu
Po několika měsících se však u čtrnáctiletého Sewella Setzera začaly podle matky projevovat první negativní dopady používání aplikace – „trávil stále více času ve svém pokoji a začal trpět nízkým sebevědomím“. V pozdějších konverzacích s chatbotem prý začal Setzer mluvit o sebepoškozování a sebevraždě, podle Garcíové však chatbot neudělal nic, aby jejímu synovi ve vážné situaci pomohl.
„Nebyla tam žádná vyskakovací okénka, která by říkala ‚pokud potřebuješ pomoc, prosím, zavolej na sebevražednou krizovou linku',“ řekla matka. Podle informací CNN si pak čtrnáctiletý Setzer s chatbotem psal jen několik sekund předtím, než letos v únoru spáchal sebevraždu.
Garcíová se následně rozhodla na společnost Character.AI, která je podle ní za sebevraždu jejího syna zodpovědná, podat žalobu. „Chci, aby pochopili, že je to platforma, kterou se její vývojáři rozhodli vydat bez odpovídajících mantinelů, bezpečnostních opatření a bez testování, a že tento produkt je navržen tak, aby na něm naše děti byly závislé a aby s nimi manipuloval,“ uvedla v nedávném rozhovoru pro americkou CNN.
Podle žaloby společnost vědomě selhala v zavedení bezpečnostních opatření, která by zabránila jejímu synovi ve vytvoření silného vztahu s umělou inteligencí. Stejně tak žaloba tvrdí, že platforma adekvátně nereagovala na Setzerovo vyjadřování sebevražedných myšlenek.
Společnost Character.AI ve svém vyjádření pro CNN projevila „lítost nad tragickou ztrátou“ jednoho ze svých uživatelů. Zároveň uvedla, že zavedla nová bezpečnostní opatření, jako je například poskytování pomoci uživatelům, kteří se chatbotovi svěří se svými sebevražednými sklony.
Cílem žaloby je kromě nespecifikovaného finančního odškodnění změnit fungování společnosti Character.AI. Garcíová chce podle CNN také ukázat, že aplikace není vhodná pro děti – v současnosti je přitom podle webu společnosti přístupná všem dětem od 13 let. „Přála bych si, aby děti nemohly Character.AI používat. Nemají tam co dělat, jelikož tam neexistují mantinely, které by je mohly ochránit,“ dodala Garcíová.
MOHLO VÁM UNIKNOUT: Kvůli nepovedené plastice spáchal sebevraždu. Student z Francie naletěl turecké „klinice“
