Umělá inteligence pro pediatry: jak (ne)bojovat s budoucností

Pondělní ráno a digitální fonendoskop

Představte si klasické pondělní ráno na ambulanci. Čekárna plná malých pacientů s širokým spektrem potíží, od banálního nachlazení po složitější diagnostické oříšky. Váš stůl se prohýbá pod tíhou nedokončených zpráv a žádanky čekají na vyplnění. A do toho vám v hlavě rezonuje přednáška z víkendového kongresu o tom, jak umělá inteligence (AI) brzy změní medicínu. Nejde přitom o plané řeči; podle rozsáhlého globálního průzkumu z roku 2024 již 85 % manažerů ve zdravotnictví investuje nebo plánuje v nejbližší době investovat do generativní umělé inteligence, čímž se tato technologie stává novou, prakticky nevyhnutelnou součástí medicínské práce.⁽¹⁾ Možná si s povzdechem říkáte: „Ještě tohle.“

Tento článek nemá za cíl přidávat další položku na váš seznam starostí. Naopak. Chce ukázat, že AI nemusí být hrozbou, ale může se stát něčím jako digitálním fonendoskopem 21. století –⁠ nástrojem, který nám nerozkazuje, co máme slyšet, ale zesiluje naše vlastní schopnosti a v konečném důsledku může uvolnit ruce a hlavu pro to nejdůležitější: péči o pacienta a komunikaci s jeho rodinou.

Co to vlastně je (a není) ta umělá inteligence?

Média nás často bombardují představami vševědoucích robotů. Realita je naštěstí (nebo bohužel?) mnohem prozaičtější. Současná AI, se kterou se setkáváme, je tzv. úzká AI. Není to vědomá bytost, ale sofistikovaný software, natrénovaný na obrovském množství dat k plnění specifických úkolů: rozpoznávání obrazu, překladu jazyka nebo hledání vzorců v datech.

Skvělým příkladem, který všichni známe, je navigace v autě. Zadáte cíl a ona vám na základě analýzy tisíců proměnných (aktuální provoz, uzavírky, rychlostní limity) navrhne nejlepší trasu. Přesto jste to vy, řidič, kdo drží volant. Vy víte, že ta zkratka polní cestou, kterou vám nadšeně nabízí, není s vaším autem dobrý nápad. A přesně tak bychom měli přemýšlet o AI v medicíně. Je to skvělý navigátor, ale my jsme a musíme zůstat řidiči.

V posledních letech zažívají boom tzv. velké jazykové modely (LLM), jako např. ChatGPT, Claude, Gemini a další. Tyto modely jsou trénovány na nepředstavitelném objemu textů a umí na základě zadání generovat souvislý, gramaticky správný a často i velmi relevantní text. Shrnou vám článek, dokážou napsat koncept e-mailu nebo třeba navrhnout pohádku na dobrou noc pro vaše dítě, když vám po náročné službě dojde inspirace. A právě zde se otevírá fascinující pole působnosti, a to nejen v práci, ale i v soukromém životě.

Největší přínos? Pro toho, kdo ví

Zásadní a možná nejdůležitější myšlenka tohoto textu je následující: umělá inteligence je nejmocnějším nástrojem v rukou experta. Pro laika může být zdrojem dezinformací, pro začátečníka nebezpečnou berličkou, ale pro odborníka se stává partnerem, který posouvá jeho možnosti.

Představte si AI jako extrémně výkonného, neúnavného, ale trochu naivního a občas si vymýšlejícího medika v prvním ročníku. Dokáže za vás projít tisíce odborných medicínských článků a shrnout je, ale nedokáže posoudit klinickou relevanci a kvalitu studií. Dokáže navrhnout diferenciální diagnózu vzácného syndromu, ale nepostřehne neverbální signály dítěte nebo důležité detaily při fyzikálním vyšetření. A právě zde vstupuje do hry expert. Nedávná studie z roku 2024 prokázala, že AI model dokázal s vysokou přesností identifikovat dětské oční onemocnění jako myopii, strabismus a ptózu pouze z fotografií pořízených chytrým telefonem.⁽²⁾ AI tak vidí to, co je objektivně měřitelné a viditelné, ale vždy potřebuje lékaře, který dokáže interpretovat nálezy v kontextu celkového klinického obrazu. Nejde o nahrazení lékaře, ale o poskytnutí druhého, extrémně rychlého páru očí, který může upozornit na detail, jenž by jinak mohl uniknout.

AI dodá data a možnosti, expert moudrost a rozhodnutí.

Rizika a úskalí: pozor na digitální halucinace

Každá mince má dvě strany a bylo by nebezpečné a naivní rizika AI ignorovat. Nejde jen o obavy z nahrazení pracovních míst. Jde o mnohem méně viditelné, ale o to významnější problémy.

Jedním z největších rizik jsou tzv. halucinace. Jazykový model si prostě vymyslí informaci, citaci nebo studii, která neexistuje. Nedávná studie z roku 2024 ukázala znepokojivou skutečnost: při analýze radiologických AI nástrojů se chybné diagnózy spojené s halucinacemi vyskytly v 5–10 % analyzovaných případů.⁽³⁾ I když se to může zdát jako relativně malé procento, v medicíně může každá chyba znamenat zbytečnou operaci nebo naopak přehlédnutí závažného onemocnění. Zajímavý pohled na problém halucinací nedávno přinesl Dario Amodei, šéf společnosti Anthropic (tvůrce modelu Claude). Podle něj dnešní modely možná „halucinují“ méně často než lidé –⁠ kteří také neustále chybují, zapomínají nebo si domýšlejí –, ale činí tak mnohem zrádnějším a pro nás nečekaným způsobem.⁽⁴⁾ Problém totiž není jen v samotné chybě, ale v absolutní jistotě, s jakou ji model podá. Zatímco kolega lékař řekne „myslím, že…“ nebo „nejsem si jistý, ale…“, jazykový model vám bez mrknutí oka odprezentuje smyšlenou citaci z časopisu The Lancet jako holý fakt. Proto zůstává v platnosti zlaté pravidlo, které jsme již zmínili: pro experta je to často úsměvný moment, kdy odhalí nesmysl, ale pro kohokoli bez hluboké znalosti kontextu to může vést k chybnému závěru –⁠ a ten už může mít v reálném světě velmi nešťastné důsledky.

Dalším problémem je systémová chyba (bias) v trénovacích datech. Pokud byla AI trénována převážně na datech z jedné populace, její závěry mohou být méně přesné pro jiné skupiny. A samozřejmě je tu klíčová otázka ochrany dat. Průzkumy ukazují, že více než polovina expertů na kyberbezpečnost se domnívá, že generativní AI přináší nová, významná bezpečnostní rizika.⁽⁵⁾

Jak halucinace omezit?

Naštěstí, vývojáři i uživatelé mají k dispozici strategie, jak riziko halucinací výrazně snížit. Nejde o všelék, ale o důležité pojistky:

1. Ukotvení v realitě (tzv. retrieval-augmented generation –⁠ RAG): toto je dnes klíčová technika. Místo aby si AI vymýšlela odpověď jen na základě svých natrénovaných, ale potenciálně zastaralých dat, dostane za úkol si odpověď nejprve dohledat v konkrétním, důvěryhodném zdroji. Představte si to tak, že AI před odpovědí na otázku ohledně léčby febrilních křečí „donutíte“, aby si nejprve otevřela aktuální doporučené postupy a odpověď sestavila na jejich základě.
2. Kvalita pokládaných dotazů (prompt engineering): způsob, jakým se ptáme, dramaticky ovlivňuje kvalitu odpovědi. Je to podobné jako s anamnézou. Vágní dotaz: „Je to vážné?“ vede k vágní odpovědi. Precizní dotaz: „Vypiš diferenciální diagnózu pro 5letého chlapce s třídenní horečkou 39 °C a petechiálním exantémem, seřazenou podle pravděpodobnosti na základě EBM (evidence-based medicine)“ povede k mnohem strukturovanějšímu a méně „kreativnímu“ výstupu.
3. Používání nejnovějších modelů: s každou novou generací se modely v potlačování halucinací zlepšují. Rozdíl mezi modely z roku 2022 a 2025 je v tomto ohledu propastný.

I přes všechny tyto techniky je však třeba zdůraznit, že žádná není stoprocentní. Tím nejdůležitějším filtrem proti dezinformacím tak zůstává kritické myšlení a odborná znalost lékaře, který s AI pracuje.

Méně byrokracie, více péče

Jak tedy může AI konkrétně ulehčit pediatrovi život? Potenciál je obrovský, zejména v oblasti, která trápí spoustu lékařů: administrativa. Analýzy společnosti McKinsey naznačují, že technologie AI by mohly zautomatizovat až 70 % administrativních úkolů ve zdravotnictví.⁽⁶⁾ Představte si AI, která z audiozáznamu rozhovoru s rodiči automaticky vytvoří strukturovaný zápis do dokumentace. Kolik desítek minut denně by to ušetřilo?

Další možné oblasti:

• Rešerše: místo zdlouhavého prohledávání databází položíte dotaz a během vteřin dostanete shrnutí klíčových studií s prokliky na zdroje k ověření.

• Personalizovaná medicína: AI může analyzovat genomická data a pomoci navrhnout cílenou léčbu u onkologických či metabolických onemocnění.

• Prediktivní analýza: na úrovni nemocnice může AI předvídat sezónní nárůst respiračních infekcí, a pomoci tak s plánováním lůžkové kapacity a služeb.

To vše nepovede k tomu, že by lékaři nebyli potřeba. Právě naopak. Ušetřený čas a mentální kapacitu lze investovat v oblasti, kterou žádný algoritmus nikdy nenahradí: v budování důvěry, v empatickém rozhovoru a v komplexním lidském úsudku.

Závěr: umění pracovat s AI

Umělá inteligence není ani všelék, ani zkáza lékařské profese. Je to technologie, jejíž implementace se nezadržitelně zrychluje a stává se jedním z hlavních motorů inovací ve zdravotnictví. Náš úkol není ji ignorovat, ale naučit se s ní zacházet –⁠ kriticky, zodpovědně a efektivně.

Přistupujme k ní jako ke každé nové metodě: s počáteční opatrností, studiem dostupných dat, vědomím „nežádoucích účinků“ a s cílem co nejlepšího prospěchu pro dětské pacienty. Pokud se nám to podaří, AI se nestane naším konkurentem, ale tím nejlepším kopilotem, jakého jsme si kdy mohli přát.

A na úplný konec si dovolím jednu osobní a možná trochu provokativní poznámku. Myslíte si, že tento článek, který právě dočítáte, jsem napsala s pomocí umělé inteligence?

Odpověď zní: ano, AI byla při psaní tohoto článku mým pomocníkem. A považuji to za zcela legitimní přístup. Stále totiž ve společnosti panuje mylná představa, že použití AI je podvod nebo neférová zkratka. Chtěla bych vyzvat ke změně tohoto myšlení. Schopnost efektivně vést dialog s AI, kriticky hodnotit její výstupy a využít ji k zefektivnění vlastní práce není podvádění. Je to nová, klíčová dovednost a gramotnost 21. století. Člověk, který si umí s AI poradit a využít ji naplno, si neulehčuje práci neférově, ale pracuje chytřeji a efektivněji.

Stejně jako jsem v článku psala o AI jako o kopilotovi v medicíně, byla i zde mým kopilotem při psaní a ušetřila mi několik hodin práce. Pomohla mi s rešerší dat, tříděním zdrojů a strukturou textu. Finální myšlenky a především zodpovědnost za obsah však zůstaly plně v mých rukou.

Umělá inteligence tu s námi už navždy bude a změní svět, ať se nám to líbí, nebo ne. Nebojme se jí. Proto je nejvyšší čas změnit to jediné, co skutečně ovlivnit můžeme: naše vlastní myšlení. Místo abychom v AI viděli hrozbu, vnímejme ji jako nástroj, který „pozvedá expertízu zdravotnických profesionálů“. Neuvažujme, jestli ji přijmout, ale jak ji co nejlépe využít.

Ing. Renata Lacinová

AI Coach & Ambassador