Microsoft chce nahradit lékaře: Super umělá inteligence by měla převzít diagnostiku

„Lékařská superinteligence“ od Microsoftu: Revoluce v diagnostice – nebo marketingová pohádka?
Kritická analýza MAI‑DxO a mýtu o neomylnosti

Nerealistické testovací podmínky: Lékaři se zavázanýma očima

Základem pro superlativ společnosti Microsoft je studie 304 komplexních případových studií z časopisu New England Journal of Medicine . Zatímco umělá inteligence dokázala čerpat ze soustředěných znalostí z internetu a více jazykových modelů, lidští lékaři museli činit rozhodnutí bez odborné literatury, bez konzultací a bez dalších testů . Tento scénář se nijak nepodobá skutečné klinické praxi – kde lékaři pracují jako tým a spoléhají se na zkušenosti, moderní diagnostiku a cílené doplňující otázky.

Microsoft přirovnává vysoce výkonné letadlo k jízdnímu kolu – a pak tvrdí, že letadlo létá lépe.

Zkreslení vzorkování: Umělá inteligence se trénuje na hádankách místo na realitě

Další kritický bod: Výběr případů sestával z obzvláště obtížných, často akademicky konstruovaných, výjimečných případů . To jsou přesně ty případy, které modely velkých jazyků obzvláště dobře analyzují – koneckonců mnoho z nich pochází přímo či nepřímo z trénovacích dat umělé inteligence.

Výsledek: Testovací prostředí, které poskytuje maximální výhody pro umělou inteligenci , ale umožňuje jen málo závěrů o každodenní péči o pacienty. Vzácná onemocnění tvoří jen zlomek skutečné klinické práce – a přesto je to právě tento zlomek, který je základem údajné nadřazenosti umělé inteligence.

Bez externí validace – bez klinického významu

Navzdory veškeré propagaci zůstává MAI‑DxO čistě výzkumným systémem – bez schválení, bez vzájemného hodnocení a bez pilotních studií na skutečných pacientech. Systém netestovaly ani lékařské společnosti, ani nezávislé výzkumné ústavy. Působivá čísla jsou založena výhradně na interním testovacím prostředí společnosti Microsoft – černé skříňce s vysokým faktorem sebepotvrzení .

Skutečnost, že se v tomto kontextu objevuje termín „superinteligence“, ukazuje méně vědecké přesnosti než marketingově motivovanou aroganci .

Iluze automatizace: Když umělá inteligence nahradí lékaře – ale nerozumí tomu

MAI‑DxO není určen pouze k stanovení diagnóz, ale také k rozhodování o dalších testech. I když to zní technicky působivě, je to eticky složité: Výběr diagnostických metod vyžaduje nejen statistické znalosti, ale také klinickou citlivost, kontextové povědomí a odpovědnost .

Příliš brzké zavedení umělé inteligence a slepá důvěra v ni by mohly vést k systematické chybné diagnóze nebo nedostatečné léčbě – zejména v nedostatečně financovaných systémech zdravotní péče, kde je vysoký ekonomický tlak a omezené lékařské kapacity. Bylo by velké pokušení nechat rozhodovat „systém“ – na úkor blaha pacientů .

Skutečné riziko: humbuk kolem umělé inteligence místo ochrany pacientů

Krok Microsoftu přichází ve správný čas – v době rostoucí technologické euforie a zmenšujících se rozpočtů na zdravotnictví. Právě proto je však třeba opatrnosti. Systém umělé inteligence založený na manipulativním benchmarkingu, nerealistických předpokladech a nepodložených slibech efektivity by se neměl stát plánem pro budoucnost medicíny .

Než bude možné systémy jako MAI‑DxO vůbec zvážit pro diagnostiku v reálném světě, je nutné splnit následující:

• Nezávislé klinické studie se skutečnými pacienty
• Transparentnost v oblasti školicích dat, rozhodovacích procesů a míry chyb
• etické a regulační přezkumy ze strany veřejných orgánů
• a upřímnou diskusi o odpovědnosti, zodpovědnosti a důvěře

Závěr: Technologie s potenciálem – ale bez zralosti

MAI‑DxO může být zajímavým výzkumným přístupem – a technologickým experimentem s vyhlídkami do budoucna. Není však ani revoluční, ani praktický . Pojem „lékařská superinteligence“ naznačuje úroveň vyspělosti, která jednoduše neexistuje.

Místo toho, aby Microsoft podlehl PR fantaziím o všemohoucnosti, by se měl raději vydat náročnou cestou: cestou kontrolovaných studií, lékařských partnerství a transparentního zveřejnění všech omezení a rizik. Dokud se tak nestane, MAI-DxO zůstane elegantní demografickou skupinou s nebezpečným nárokem na autoritu – nic víc, nic míň.