Chatbot lékařem? Novinka jde uživatelům naproti. Halucinuje a vymýšlí si, varují experti
ChatGPT se stal digitálním doktorem dnešní doby. Na radu ohledně zdravotního stavu se ho zeptalo už přes 40 milionů lidí po celém světě. Teď navíc přibude nový nástroj platformy, který se právě na výklad nebo vyhodnocení lékařských záznamů zaměří. Experti ale varují: Nejenže pacienti budou citlivé informace sdílet na serverech v cizině, ale v případě, že o radách nebudou přemýšlet, mohou si velmi ublížit.
OpenAI se chopila příležitosti a přichází s novou zdravotní sekcí svého chatbota. Ten se snaží uživatele připravit na návštěvu lékaře, poradit při zdravotních potížích nebo laicky vysvětlit výsledky testů. Ty ale musíte v první řadě umělé inteligenci poskytnout, což by, jak zmiňuje odborník na umělou inteligenci Alexander Bruna, nemělo být zbrklé rozhodnutí.
ČTĚTE TAKÉ: Česku nedorazila pozvánka do Rady míru. Cena za členství je nemyslitelná, řekl Macinka
„Já bych byl velmi obezřetný. Všechna data, která dnes pošlete do ChatGPT, odletí na servery někde v Americe,“ upozorňuje. Na rizika sdílení důvěrných informací právě s OpenAI klade důraz i vývojář Jan Tyl. „Firma není vázána ničím jiným než malinkými písmenky, které nikdo nečte, a kdyžtak se omluví a řekne: Omlouvám se, tady došlo omylem k úniku dat,“ přibližuje hořkosladce úskalí svěřování dat.
ChatGPT má tendenci si vymýšlet
I zdravotní experti upozorňují občany, aby do posudků umělé inteligence nevkládali příliš důvěry. „Není to zdravotnický prostředek. Neslouží to k tomu, aby s tím pacient dokonzultoval svůj stav nebo léčbu. Je to pro výchozí orientaci a nejsme schopni zaručit, že data zůstanou zarámovaná v komunikaci s pacientem,“ připomíná ředitel Národního centra elektronického zdravotnictví Ministerstva zdravotnictví Petr Foltýn.
Čtěte také
OpenAI se ale brání a tvrdí, že data jsou v bezpečí. U možného úniku dat to ale nekončí. Někteří odborníci také varují, že chatbot často neříká tak úplně pravdu. Bruna podotýká, že ChatGPT „trpí tím, že halucinuje“. „Vlastně má tendenci si vymýšlet a často dělá ještě jednu věc – zrcadlí uživatele. Čili pokud máte nějaký problém nebo pozná, že jste v nějakém rozpoložení a chcete nějaký typ odpovědi, tak vám ji často dá,“ přibližuje.
Foltýn připomíná, že nejde dávat veškerou důvěru v umělou inteligenci. „Teď bychom od lékaře dostali za uši. V situaci, kdy jde o naše zdraví, se ChatGPT může dostat do úzkých, do situace, kdy neví a vydá se nějakou cestou své teorie, která může zdraví ohrozit,“ podotkl. ChatGPT Health se zatím spouští postupně. Evropská unie je mimo první vlnu, Češi si tak ještě nějakou chvíli počkají.
