Článek
Lékaři po celém světě hledají způsoby, jak omezit čas strávený administrativou. Jedním z nejrychleji rostoucích trendů jsou takzvaní AI asistenti pro přepis rozhovorů s pacienty. Během vyšetření naslouchají konverzaci a následně připraví návrh zdravotního záznamu. Technologie slibuje úsporu času i větší prostor pro samotnou péči o pacienty. Nová zjištění z Velké Británie však ukazují, že vedle výhod přináší i rizika, která nelze podceňovat.
Zápisy obsahovaly diagnózy, které pacienti neměli
Na problém upozornila organizace Healthwatch England, která zastupuje zájmy pacientů v britském zdravotnictví. Ve své zprávě popisuje případy, kdy automaticky vytvořené záznamy obsahovaly závažné faktické chyby. Některé z nich odhalili až samotní pacienti při nahlédnutí do své dokumentace.
Mezi nejzávažnější příklady patřila chybná interpretace výsledků magnetické rezonance. Systém do dokumentace uvedl přítomnost demyelinizace, tedy poškození nervových vláken, přestože skutečný nález výslovně potvrzoval, že žádné známky tohoto onemocnění nalezeny nebyly.
Podobně docházelo také k záměně názvů léků nebo k vynechání důležitých pokynů týkajících se předepisovaných přípravků. Pokud by si těchto nepřesností nikdo nevšiml, mohly by se stát součástí zdravotní dokumentace a ovlivnit další rozhodování lékařů.
Opatrnost doporučují i další státy
Britské zkušenosti nejsou ojedinělé. Varování před nekontrolovaným používáním AI přepisovacích systémů vydaly nedávno také australské zdravotnické úřady. Vedle rizika nepřesných záznamů upozornily rovněž na otázky ochrany citlivých zdravotních dat.
Odborníci zároveň připomínají známý problém generativní umělé inteligence, kterému se říká halucinace. Model může vytvořit informaci, která působí věrohodně, ale ve skutečnosti nikdy nezazněla. V některých zahraničních případech se tak v dokumentaci objevily zmínky o lécích nebo zdravotních obtížích, které pacient během návštěvy vůbec nezmínil.
Specifická situace panuje ve Spojených státech. Tam řada AI nástrojů určených pouze pro přepis konzultací nespadá mezi zdravotnické prostředky. Nepodléhají proto stejnému schvalování jako software využívaný přímo pro diagnostiku. Odpovědnost za správnost výsledného záznamu tak zůstává na lékaři, který musí celý dokument před jeho uložením pečlivě zkontrolovat.
Zdroj: DigitalTrends.com