Jon Fleetwood: Umělá inteligence nyní v Utahu předepisuje léky

Léky jsou předepisovány bez lidského zásahu.

Utah je prvním americkým státem, který v rámci nového pilotního programu testuje autonomní umělou inteligenci (AI) pro obnovu léků na chronická onemocnění.

V úterý oznámil Úřad pro politiku umělé inteligence Ministerstva obchodu státu Utah jedinečné partnerství se společností Doctronic , platformou pro zdravotnictví založenou na umělé inteligenci.

Cílem je poskytnout pacientům s chronickými onemocněními rychlejší a automatizovaný způsob, jak si obnovit léky.

Tento krok ale vyvolává vážné otázky: Kdo je zodpovědný za to, když umělá inteligence předepisuje léky? Jak jsou chráněni pacienti? A kolik rozhodovací pravomoci v oblasti medicíny bude převedeno na algoritmy bez veřejné debaty?

Podle tiskové zprávy státu:

Tato dohoda představuje první vládou schválený program v USA, který umožňuje systému umělé inteligence legálně se podílet na procesech lékařského rozhodování o obnovování léků – jde o nově vznikající model, který by mohl změnit přístup k péči a v konečném důsledku zlepšit výsledky léčby.

Nedodržování léčby je jedním z největších faktorů, které vedou k preventivním zdravotním následkům a zbytečným nákladům na zdravotní péči. Vzhledem k tomu, že obnovení léků na předpis představuje přibližně 80 % veškeré činnosti související s léky, snaží se společnosti Utah a Doctronic otestovat, jak může autonomní umělá inteligence pomoci překlenout mezery v přístupu k lékům, zkrátit zpoždění vedoucí k přerušení podávání léků a zlepšit výsledky léčby milionů lidí s chronickými onemocněními.

Díky tomuto partnerství se společnost Doctronic stane první umělou inteligencí s legálním oprávněním k vydávání rutinních receptů, a to nasazením své autonomní platformy pro zdravotnictví s umělou inteligencí v rámci regulačního sandboxového rámce státu Utah. Úřad bude důsledně hodnotit klinické bezpečnostní protokoly, zkušenosti pacientů a jejich účinnost v reálném světě. Cílem je prokázat, že bezpečná a dobře regulovaná umělá inteligence může zlepšit dodržování léčby, zabránit hospitalizacím, kterým lze předejít, a snížit náklady na zdravotní péči – a to vše při zachování důležitosti péče u lékařů.

Pozadí doktroniky

Společnost Doctronic založil v září 2023 Matt Pavelle, sériový podnikatel a technologický manažer se sídlem v New Yorku, který se specializuje na řešení ve zdravotnictví založená na umělé inteligenci, jak uvedl Business Insider.

Platforma je agnostická vůči Large Language Model, což znamená, že se nespoléhá na jeden systém umělé inteligence, ale na několik – například OpenAI a Anthropic – a z nich vytváří konsenzus.

Pavelle získal počáteční financování ve výši 5 milionů dolarů, vedené společnostmi Union Square Ventures, Tusk Ventures a akcelerátorem startupů HF0.

Uživatelé Doctronicu musí před zadáním svých symptomů poskytnout osobní údaje, jako je věk a pohlaví.

Poté obdrží čtyři pravděpodobná vysvětlení a také plán postupu, včetně standardizované zprávy, kterou mají předat svému lékaři, uvádějí zasvěcené osoby.

Pacienti si také mohou rezervovat videoschůzku s licencovaným zdravotnickým pracovníkem.

„Můžete si objednat schůzku 24 hodin denně, 7 dní v týdnu ve všech 50 státech a obvykle budete spojeni s odborníkem do 30 minut, a to již od 39 dolarů,“ uvádí se ve zprávě.

V dubnu loňského roku Pavelle potvrdil, že Doctronic zaznamenává přibližně 50 000 uživatelů týdně.

V datech sdílených s regulačními orgány v Utahu společnost Doctronic porovnala svůj systém umělé inteligence s lidskými lékaři na 500 případech z pohotovosti, jak uvedl Politico.

Léčebný plán umělé inteligence se údajně v 99,2 % případů shodoval s plánem lékařů.

Zvážit

Generální ředitel a výkonný viceprezident Americké lékařské asociace Dr. John Whyte uvedl, že „zatímco umělá inteligence má neomezený potenciál změnit medicínu k lepšímu, bez lékařského zásahu představuje také vážná rizika pro pacienty i lékaře.“

Obavy sahají od zneužívání nebo nesprávného užívání až po možnost, že by se lidé se závislostí na drogách mohli pokusit obelstít automatizovaný systém a nelegálně získat léky.

A co nenápadné klinické varovné signály nebo lékové interakce, které by lékař rozpoznal?

Ještě důležitější je, že pilotní projekt v Utahu nastoluje otázku, kdy přesně byl nelidskému systému udělen zákonný pravomoc účastnit se procesů lékařského rozhodování – hranice, která byla historicky vyhrazena pro licencované odborníky odpovědné pacientům a regulačním orgánům.

Tím, že stát umožňuje autonomní umělé inteligenci legálně vydávat rutinní doplňovací recepty, netestuje pouze nový nástroj, ale nový lékařský model – model, v němž je úsudek tradičně vykonávaný lékaři delegován na algoritmy fungující v rámci regulačního sandboxu.

Vláda prezentuje program jako prostředek ke zlepšení efektivity a přístupu, ale rychlost a škálování ve skutečnosti zvyšují rizika, když dojde k chybám – zejména když jsou rozhodnutí automatizována a aplikována na miliony lidí s chronickými onemocněními.

Slib, že lékaři zůstanou „v centru péče“, je v rozporu se systémem explicitně navrženým pro autonomní provoz a vyvolává otázky, kde končí lidský dohled a začíná algoritmická autorita.

Pokud se obnovu léků na předpis – která tvoří přibližně 80 % veškeré aktivity v oblasti léků – nyní považuje za bezpečnou pro automatizaci, jaké další klíčové lékařské funkce by mohly brzy následovat stejnou logiku?

A zatímco Utah prezentuje tento pilotní projekt jako národní model pro umělou inteligenci ve zdravotnictví, vyvstává další otázka: Je to úzce definovaný experiment – ​​nebo první krok k normalizaci lékařského rozhodování podporovaného umělou inteligencí bez jasně definovaných, pevně stanovených zábran?