AI měla lékařům šetřit čas. Místo toho jim ho bere
Dvouletá studie z University of Copenhagen ukazuje, že systém pro automatický přepis lékařských poznámek přináší v průměru přes 40 přerušení za směnu — lékaři tráví čas opravami chyb a zároveň nevědomky trénují AI.
Umělá inteligence měla být odpovědí na přetížený zdravotnický systém — měla automatizovat administrativu, zrychlit dokumentaci a dát lékařům víc prostoru na to nejdůležitější, tedy pacienty. Jenže realita v nemocnicích ukazuje, že technologie často nefunguje tak, jak si představujeme.
Nový výzkum z University of Copenhagen ukazuje, že místo úspory času přináší AI lékařům další práci.
K tomuto závěru dospěla výzkumnice v oblasti informačních věd Silja Vase, jejíž doktorský výzkum zkoumal využití technologie rozpoznávání řeči v každodenním provozu dánské nemocnice.
Co se děje v praxi
Studie sledovala dva roky fungování systému pro automatický přepis lékařských poznámek pomocí rozpoznávání řeči v dánské nemocnici — technologie, která měla nahradit část práce zdravotnických administrativních pracovníků.
Na papíře to dává smysl: lékař mluví, systém zapisuje, hotovo. Jenže realita vypadá jinak.
Lékaři opravují chyby místo léčení
AI systém dělá tolik chyb, že lékaři musí opravovat slova, upravovat věty a kontrolovat medicínskou terminologii. A to ne jednou za čas.
V průměru dochází k více než 40 přerušením během jedné směny, kdy lékař musí zastavit práci a opravit chybu v přepisu — to je zhruba 600 přerušení měsíčně na jednoho lékaře.
Místo plynulé práce vzniká roztříštěný workflow, kde se lékař neustále vrací k opravám.
Neviditelná práce: trénujete AI, aniž o tom víte
Každá oprava, kterou lékař udělá, se zároveň používá jako tréninkový vstup pro systém. Lékaři tedy nejen opravují chyby — oni zároveň učí AI, aby byla lepší.
Problém je, že nemají žádnou zpětnou vazbu, jestli to vůbec funguje. V jednom případě se dokonce ukázalo, že opravy celého oddělení se rok vůbec neposílaly dodavateli systému — a nikdo si toho nevšiml.
AI mění práci, ne jen ji zrychluje
Další překvapení: technologie nepřebírá jen konkrétní úkol, ale mění celý systém práce. Dříve například administrativní pracovníci plánovali vyšetření (např. rentgeny). Dnes tuto práci musí dělat lékaři sami.
A někdy to vede k absurdním situacím, kdy lékaři tisknou dokumenty, ručně je označují a teprve potom je někdo zpracuje.
Největší problém: technologie není „plug & play“
AI není hotové řešení, které prostě zapnete. Aby fungovala, potřebuje neustálou údržbu, kvalitní data a lidskou kontrolu. A tato práce často dopadá na lidi, kteří už teď nemají čas.
Obrácená logika
Místo toho, aby se technologie přizpůsobila realitě nemocnice, děje se pravý opak: zdravotníci se přizpůsobují technologii. A to bez toho, aby měli víc času, víc podpory nebo jasný přínos.