Vědci z Karolinska Institutet: stále více lidí se ptá na zdraví umělé inteligence. Přináší to nové možnosti i nová rizika

Ještě před několika lety lidé při zdravotních potížích automaticky otevírali internetový vyhledávač. Symptomy zadávali do Googlu, pročítali diskusní fóra nebo hledali zkušenosti ostatních pacientů.

Dnes se ale tento zvyk rychle mění.

Stále více lidí místo vyhledávače otevírá ChatGPT, Claude, Gemini, Copilot nebo jiné jazykové modely a ptá se jich na své zdraví. Pro mnoho uživatelů se umělá inteligence stává novým „digitálním lékařem“, který je k dispozici kdykoliv během dne.

Podle odborníků z Karolinska Institutet už tento trend nelze zastavit. Místo zákazů nebo varování je proto podle nich potřeba naučit veřejnost i zdravotníky, jak AI při řešení zdravotních otázek používat bezpečně.

Současně ale upozorňují, že hranice mezi užitečným pomocníkem a nebezpečným rádcem může být překvapivě tenká.

Každý pátý uživatel AI se už ptal na své zdraví

Článek vychází mimo jiné ze švédské zprávy The Swedes and the Internet 2025, která mapovala využívání umělé inteligence mezi veřejností.

Výsledky ukazují, jak rychle se nové technologie staly běžnou součástí každodenního života.

Čtyři z deseti Švédů už používají některý z veřejně dostupných AI nástrojů. Nejčastěji jde o ChatGPT, následovaný službami Claude, Copilot, Gemini, Grok nebo Perplexity. A každý pátý uživatel AI přiznal, že se umělé inteligence ptal na zdravotní otázky.

Nejaktivnější jsou především mladí dospělí, kteří stále častěji používají AI jako první místo, kam se obracejí při zdravotních potížích.

AI může odstranit problém, který zdravotnictví řeší už roky

Podle logopeda a doktoranda Fredrika Sanda Aronssona z Karolinska Institutet není hlavním důvodem popularity AI jen technologická zvědavost.

Mnoho lidí se totiž ke zdravotníkům vůbec nedostane.

Zmíněná švédská zpráva ukázala, že téměř čtvrtina lidí někdy rezignovala na objednání k lékaři, protože narazila na komplikovaný digitální objednávací systém.

Právě zde může podle výzkumníků AI sehrát pozitivní roli. Je dostupná nepřetržitě. Nečeká se na ni týdny. A dokáže během několika sekund vysvětlit odborné pojmy nebo pomoci člověku lépe pochopit jeho diagnózu ještě před návštěvou ordinace.

„Tento vývoj už nelze zvrátit. Měli bychom se spíše naučit, jak zdravotní otázky umělé inteligenci pokládat bezpečně,“ říká Fredrik Sand Aronsson.

AI není lékař. A neměla by jím být

Výzkumníci ale zároveň upozorňují na důležitou hranici. Podle nich je velký rozdíl mezi tím, když AI slouží jako vzdělávací nástroj, a situací, kdy má rozhodovat o diagnóze nebo léčbě. První využití může být velmi užitečné. Druhé může být nebezpečné.

AI může například dobře vysvětlit, co znamenají výsledky laboratorních testů, jak funguje určitá nemoc, co lze očekávat při vyšetření, nebo jak se připravit na návštěvu lékaře. Neměla by ale nahrazovat klinické rozhodování.

Největší riziko? Psychické krize

Podle psychiatra Juliana Striegla, který na Karolinska Institutet zkoumá využití AI v psychiatrii, jsou největším problémem vzácné a krizové situace. Patří mezi ně například psychózy, akutní sebevražedné myšlenky, nebo jiné závažné psychické stavy. Právě zde může podle něj umělá inteligence selhávat.

Článek připomíná mediálně známý případ z Belgie, kde muž spáchal sebevraždu po dlouhé komunikaci s chatbotem, který podle dostupných informací jeho úvahy spíše podporoval, místo aby ho vybídl k okamžitému vyhledání odborné pomoci.

Podobných případů bylo popsáno více.

„U vzácných stavů, jako jsou psychózy nebo akutní sebevražedné riziko, výrazně roste pravděpodobnost, že chatbot nebude reagovat správně. A vzhledem k milionům uživatelů je to velmi závažný problém,“ upozorňuje Striegl.

Proč AI někdy odpovídá špatně?

Podle odborníků nejde o chybu v klasickém slova smyslu. Jazykové modely fungují tak, že vytvářejí nejpravděpodobnější odpověď na základě obrovského množství textů, na kterých byly natrénovány.

Ve většině běžných situací to funguje velmi dobře. Pokud se ale objeví vzácný nebo neobvyklý problém, model nemusí mít dostatek kvalitních příkladů. Pak může odpovědět nepřesně, vytvořit neexistující informace, nebo přehlédnout závažnost situace.

Právě proto odborníci zdůrazňují, že AI nemůže nahrazovat odborné lékařské posouzení.

Vzniká nová generace zdravotnických chatbotů

Karolinska Institutet současně spolupracuje na projektu, který ukazuje, jak by mohla vypadat bezpečnější budoucnost zdravotní AI. Jmenuje se Sundi.

Na první pohled připomíná běžného chatbota. Rozdíl je ale zásadní. Každá odpověď vychází z odborných studií vybraných lékaři a za obsahem stojí redakční tým, který průběžně kontroluje správnost doporučení.

Pokud se uživatel například zeptá: „Co znamená HbA1c?“ Sundi nejprve jednoduše vysvětlí význam tohoto laboratorního ukazatele. Poté nabídne další otázku: „Chcete vědět, proč je důležitý?“ Pokud uživatel pokračuje, chatbot postupně vysvětlí souvislosti, doporučí změny životního stylu a nabídne další ověřené informace.

Naopak otázky týkající se osobní diagnózy nebo konkrétní léčby automaticky přesměrovává na zdravotnické služby nebo lékaře.

AI může pomoci i se změnou životního stylu

Jednou z nejzajímavějších funkcí Sundi není diagnostika. Je jí podpora dlouhodobé změny chování. Chatbot pomáhá uživatelům nastavovat realistické cíle v oblastech spánku, pohybu, stravování, zvládání stresu i mezilidských vztahů.

Nejde přitom jen o seznam doporučení. Systém nejprve zjišťuje motivaci uživatele, jeho možnosti a překážky. Teprve poté společně vytváří plán postupných změn, který odpovídá tomu, co podle behaviorální psychologie skutečně funguje.

Profesor Carl Johan Sundberg z Karolinska Institutet ale zdůrazňuje, že projekt je stále ve fázi ověřování. Nejdříve chtějí výzkumníci zjistit, zda lidé platformě rozumějí a používají ji. Teprve poté budou hodnotit, jestli skutečně pomáhá lidem lépe spát, zdravěji jíst nebo měnit životní návyky.

Budoucnost zdravotnictví nebude bez AI. Ale ani bez lékařů

Výzkumníci z Karolinska Institutet se shodují, že umělá inteligence se stane běžnou součástí zdravotní péče. Neměla by ale nahrazovat lékaře. Měla by spíše pomáhat lidem lépe porozumět vlastnímu zdraví, připravit se na návštěvu ordinace nebo usnadnit orientaci v odborných informacích.

Současně ale připomínají, že čím důležitější rozhodnutí člověk řeší, tím méně by měl spoléhat pouze na odpověď chatbota.

AI totiž dokáže během několika sekund shrnout tisíce stran textu. Stále ale neumí převzít odpovědnost za konkrétní lidský život.