V medicíně se už umělá inteligence, neboli AI, v některých oborech běžně využívá – a její role dále roste. Lékařské fakulty čelí jednak výzvě naučit studenty používat AI pro jejich budoucí praxi a jednak ji začlenit do výukových metod. Nejčastěji zmiňovaným benefitem pro medicínu je úspora času díky možnosti „delegovat“ na umělou inteligenci rutinní úkoly. Lékaři doufají, že jim tak zbude více času na pacienty a složitější úkoly. Šikovný nástroj má však i své stinné a podle některých i možná nebezpečné stránky.
Mezi oblasti, kde se umělá inteligence aktuálně využívá nejvíce, patří radiologie, která je jedním z nejdynamičtěji se rozvíjejících medicínských oborů. Nové technologie významně zlepšily diagnostiku, léčbu a učinily z radiologie klíčovou součást moderní medicíny. AI může nadále zdokonalit diagnostiku a léčbu mnoha zdravotních stavů.
ČTĚTE TAKÉ: Nevěřte všemu, co vidíte. Do evropských voleb promluví i „naklonovaní“ politici, varují experti
Využívá se například k rozpoznání patologií na snímcích, k segmentaci zobrazovaných struktur, měření objemů, k přesnému porovnání starších a nových snímků. AI také dokáže optimalizovat dávky záření během CT nebo radiografie, a tím chránit pacienty před nadměrným ozářením. Významné uplatnění má umělá inteligence v oblasti výzkumu, lze ji využít k analýze velkých souborů dat a hledání vzorců, což pomáhá při zdokonalování nových léčebných postupů.
„Podporovaná detekce nebo diagnostika tradičním počítačem, která využívá techniky strojového učení, se v radiologii používá již téměř 30 let. Tyto systémy však byly omezeny neschopností dále se učit a přizpůsobovat se v průběhu času. Moderní algoritmy AI, které využíváme, jsou založeny na hlubokém učení. Zvládají identifikovat vzory na radiologických snímcích tím, že jsou trénovány na rozsáhlých souborech dat a mohou samy průběžně zlepšovat svůj výkon,“ přibližuje v dokumentu, jenž má redakce k dispozici, přednostka Radiodiagnostické kliniky 1. LF UK a VFN Andrea Burgetová.
Potenciál umělé inteligence ve svém oboru vnímá, upozorňuje však také na některá úskalí. Nasazení AI do praxe vyvolává potřebu kriticky hodnotit její přesnost, efektivitu, bezpečnost a odlišit užitečné a bezpečné produkty od neužitečných až potenciálně škodlivých. Řešit se musí také etické aspekty využití umělé inteligence v radiologii spojené s odpovědností za rozhodování.
„AI v radiologii už je – a určitě zde zůstane. Dokáže analyzovat obrovské množství snímků rychleji než radiolog. Vývoj zatím ukazuje, že lidi nenahradí, ale poskytne jim nástroje pro podporu jejich rozhodování. Umožní jim zároveň soustředit se na složitější aspekty péče o pacienty, zatímco algoritmy AI mohou pomáhat s rutinními úkoly,“ vyzdvihuje Burgetová.
AI pomáhá v rozhodování
Rovněž lékařská genetika a genomika už nyní hojně využívají umělou inteligenci. Při diagnostice geneticky podmíněných chorob se pomocí metod sekvenování DNA nové generace získávají rozsáhlé soubory dat o DNA pacientů – lidská DNA obsahuje zhruba 3,5 miliardy nukleotidů. Takové množství dat nelze bez použití bioinformatických nástrojů zpracovat.
MOHLI JSTE PŘEHLÉDNOUT: Revoluce v medicíně. Česká AI čte rentgeny lépe než lékaři, digitalizace nemocnic ale tápe
Jak vysvětluje přednosta Ústavu biologie a lékařské genetiky 1. LF UK a VFN Ondřej Šeda, využití AI v genetice má několik rovin: „Umělá inteligence pomáhá jak ve zpřesnění technického zpracování dat, tak při identifikaci genetických variant potenciálně zodpovědných za onemocnění a predikci jejich dopadu na zdravotní stav pacienta. V pokročilé výzkumné fázi lze pak na základě obrazové a klinické dokumentace s velkou přesností rozlišit řadu genetických chorob a syndromů. V obou případech nástroje AI pomáhají v procesu klinického rozhodování.“
V samotné klinické oblasti se intenzivně pracuje na využití umělé inteligence v personalizované medicíně, například v předvídání a předcházení nežádoucích účinků léčiv a optimalizaci farmakoterapie nebo v diagnostice multifaktoriálních civilizačních onemocnění, která kromě dědičných vlivů vznikají vlivem vnějšího prostředí včetně životního stylu.
„Vzhledem k dosavadnímu vývoji lze předpokládat stále intenzivnější zapojení nástrojů umělé inteligence do genetického výzkumu, diagnostiky dědičných chorob, ale i personalizace medicíny. S největší pravděpodobností dojde k aplikaci velkých jazykových i na jazyku nezávislých modelů pro analýzy a interpretace genetických dat. To v důsledku poskytne silnější a přesnější nástroje pro stanovení diagnózy a rizik i u onemocnění, kde je to dosud komplikované nebo nemožné,“ říká Šeda.
Zároveň dodává, že současný technologický vývoj odborníkům „možná takříkajíc uvolní ruce pro zásadní část práce klinického genetika, tedy komunikaci s pacienty a jejich rodinami“.
Kde je etická hranice?
Na Neurochirurgické a neuroonkologické klinice 1. LF UK a ÚVN funguje neformální skupina lékařů, která se zabývá možnostmi využití umělé inteligence nejen v samotné klinické praxi, ale také třeba pro zpracování pacientské dokumentace nebo pro tvorbu vědeckých článků.
V jednom svém experimentu vyzkoušeli schopnost chatbota GPT napsat přesvědčivou biomedicínskou studii z oblasti neurochirurgie, a to bez jakýchkoli reálných vstupních dat – Chatbot měl zkrátka za úkol si studii „vycucat z prstu“. Svá zjištění pak publikovali v článku s podtitulem „Pandořina skříňka byla otevřena“, a vzbudili tím v odborné komunitě značný ohlas.
ČTĚTE TAKÉ: EU schválila pravidla pro umělou inteligenci. Některé systémy chce zakázat, jiné regulovat
Na základě třinácti relativně jednoduchých příkazů totiž dokázal chatbot GPT během jedné hodiny vytvořit text, který alespoň na první pohled splňoval parametry odborného článku a působil věrohodně.
Objevují se tak obavy ze zneužívání umělé inteligence tímto způsobem.
Vydavatelství tvrdí, že texty vytvořené umělou inteligencí dokážou s vysokou úspěšností rozpoznat, ale experiment Martina Májovského a jeho kolegů z Neurochirurgické a neuroonkologické klinice tuto jistotu nabourává.
Podle Májovského je nutné nejen zdokonalovat metody detekce nekalého užití AI a dbát na důkladné recenzní řízení, ale hlavně stanovit hranice přípustného a pak na nich trvat.
„Musíme odlišovat používání AI k falzifikacím všeho druhu: od jejího legitimního využití jakožto technického nástroje. Mnoho vědců používá AI k jazykovým úpravám a korekturám, tvorbě abstraktů nebo zpracování dat. Na tom není nic špatného. Nesmí se však využívat k interpretaci výsledků, nebo dokonce k vytváření dat – to je podvod,“ konstatuje.
Velké prestižní vydavatelství Springer Nature už vydalo přesná etická pravidla, která mimo jiné požadují, aby jakékoli zapojení AI do tvorby článku bylo zdokumentováno a uvedeno v autorském prohlášení. „Z dlouhodobého hlediska si nemyslíme, že existuje technické řešení, které by samo o sobě problém s podvodnými publikacemi vyřešilo. Důraz na etická pravidla proto považujeme za důležitý,“ dodává Májovský.
Podpora skutečné odbornosti
Diskutovaným tématem ve vysokoškolském vzdělávání je dopad rozvoje AI na různé seminární, bakalářské nebo diplomové práce. Martin Vejražka z Ústavu lékařské biochemie a laboratorní diagnostiky 1. LF UK a VFN, který se moderními výukovými trendy zabývá, nesouhlasí s názorem, že by kvalifikační práce nyní měly ztratit svůj smysl.
„Domnívám se, že je to jinak: díky AI vzniká tlak na zkvalitňování těchto prací. Umělá inteligence může pomoci s návrhem a popisem experimentu, napsáním úvodu, statistickým zpracováním dat nebo s rutinními činnostmi, jako je formátování bibliografických citací. Vlastní provedení, ať už jde o laboratorní měření, dotazníkové šetření či cokoli jiného, AI neprovede. S formulováním inovativních závěrů a doporučením dalšího výzkumu to u AI také není nijak slavné,“ myslí Vejražka.
MOHLI JSTE PŘEHLÉDNOUT: Rozdám 50 milionů korun, slibuje ve falešném videu Procházka. Jak poznat podvod?
Podle něj umělá inteligence skutečnou odbornost tímto způsobem neohrozí, ale naopak podpoří. Dodává ale, že zároveň s tím stoupne tlak na oponenty, kteří budou muset posuzovat práce mnohem důkladněji, aby rozpoznali nedostatečně kritickou práci s texty vygenerovanými umělou inteligencí.
Přímo k výuce medicíny využívají umělou inteligenci zatím spíše nadšenci z řad učitelů, ale to se může rychle změnit. Podle Vejražky příkladů zapojení AI do výuky prudce přibývá, především pak na straně studentů. Jakým způsobem to promění studium a výuku?
„Zamysleme se nad tím, jaký tlak vyvolalo ve vysokoškolském vzdělávání používání mobilních telefonů, Googlu nebo Wikipedie. Ve srovnání s dřívější dobou klesl význam faktografických znalostí, a naopak posílil význam hlubšího porozumění souvislostem a kritického myšlení. Nástup AI vyvolává další tlak tímto směrem, který půjde ještě o krok dál. Více klesne potřeba detailních faktických znalostí z mnoha podoborů. Dokonce nebudeme muset tolika věcem ani rozumět, AI nám dá rovnou i vysvětlení,“ podotýká s tím, že se v důsledku změní i funkce učitele.
Jeho úkolem podle Vejražky již nebude především předávat studentům informace, ale pomáhat jim je vybírat, uspořádávat. Kromě toho se také zvýrazní role učitele, kterou podle něj mnozí podceňují – role motivátora, organizátora, poskytovatele zpětné vazby nebo i role profesního vzoru. Co ale umělá inteligence v dohledné době nezmění, je nutnost naučit se různé klinické dovednosti, provádět konkrétní výkony z různých oborů.
Užitečný nástroj i v administrativě
Oblastí, kde se umělá inteligence ukazuje být užitečným nástrojem, přibývá. Obecně experti na AI tvrdí, že ji lze využít všude, kde se pracuje s velkým množstvím dat. Naději, že AI pomůže uvolnit lékařům ruce, aby jim zbývalo více času na komunikaci s pacienty nebo řešení složitých problémů, vzbuzují také možnosti jejího využití v administrativě, které v České republice lékaři věnují mnohdy většinu svého času.
Jako příklad může posloužit výzkum lékařů z Neurochirurgické a neuroonkologické kliniky 1. LF UK a ÚVN. V nedávné době publikovali studii, která zjišťovala schopnosti AI zpracovávat zdravotnickou dokumentaci.
ČTĚTE TAKÉ: Selhání umělé inteligence. Podnikatele v USA místo pomoci nabádá ke krádežím a diskriminaci
„Tuto oblast považujeme za obzvlášť slibnou. Každý den píšeme desítky stran lékařských zpráv, které jsou v podstatě textovými soubory. Zdá se, že jazykově umí z těchto textů vytáhnout data a uspořádat je do přehledných tabulek. To by nám nesmírně ušetřilo čas a usnadnilo jejich vyhodnocování pro další léčebné i výzkumné účely,“ doplňuje Májovský.
