DARPA využívá umělou inteligenci ke zkrácení doby modelování propuknutí virových pandemií z týdnů na dny

Rychlost má přednost před kritickým přezkoumáním: Modely generované umělou inteligencí mají za cíl odůvodnit intervence ještě předtím, než je lze smysluplně zpochybnit.

Americká armáda financuje systémy umělé inteligence (AI), které mají drasticky urychlit modelování virových ohnisek – proces, který obvykle trvá týdny, se pak zkrátí do několika dnů a následně se použije k řízení intervencí v reálném světě.

Jinými slovy, čím rychlejší je model, tím méně času je na to, abychom se vůbec zamysleli nad tím, zda je reakce oprávněná.

Toto zrychlení navazuje na infrastrukturní programy DARPA z doby před pandemií COVID-19, které jsou již zdokumentovány a jejichž cílem je v pevně stanoveném časovém rámci převést digitální genetické sekvence na syntetizované viry a masově vyráběná protiopatření mRNA.

DARPA uvedla, že modely pandemie byly křehké, neprůhledné a pomalé.

Podle publikace v časopise Science z prosince:

Když se v roce 2020 po celém světě rozšířil virus SARS-CoV-2, epidemiologové se snažili předpovědět jeho šíření – a jeho smrtelné následky. Často se spoléhali na modely, které dokázaly nejen simulovat přenos viru a míru hospitalizace, ale také předpovědět dopady intervencí: roušek, vakcín nebo cestovních omezení.

Kromě toho, že jsou modely v epidemiologii a dalších oborech výpočetně náročné, mohou být černými skříňkami: miliony řádků staré kódové základny, které jsou podrobeny jemnému doladění operátory ve výzkumných institucích po celém světě. Ne vždy poskytují jasné vodítko. „Použité modely jsou často poměrně křehké a nevysvětlitelné,“ říká Erica Briscoe, která byla programovou ředitelkou projektu Automating Scientific Knowledge Extraction and Modeling (ASKEM) v Agentuře pro pokročilé výzkumné projekty ministerstva obrany (DARPA).

Ředitel programu Agentury pro pokročilé výzkumné projekty v oblasti obrany (DARPA) tak uznává, že modely, které řídily reakce během éry COVIDu, byly zranitelné a obtížně interpretovatelné.

To znamená, že po pandemii COVID-19 se nebudeme snažit zpomalit ani omezit politiku řízenou modelem.

Cílem je spíše zrychlit chod stejného rozhodovacího stroje.

„Existuje reálný potenciál“ pro urychlení modelování během epidemie, říká Mohsen Malekinejad, epidemiolog z Kalifornské univerzity v San Franciscu, který pomáhal s hodnocením produktů ASKEM. „Během pandemie je čas vždy naším největším omezením. Potřebujeme mít informace. A musíme je mít rychle,“ říká. „Prostě nemáme dostatek datově gramotných modelářů pro každou jednotlivou událost nebo každý jednotlivý typ potřeby veřejného zdraví.“

Program: Modely ohnisek generované umělou inteligencí na vyžádání

„Program, spuštěný v roce 2022 s rozpočtem 29,4 milionu amerických dolarů, si klade za cíl vyvinout nástroje založené na umělé inteligenci, které modelování usnadní, zrychlí a ztransparentní.“

DARPA financovala infrastrukturu, která standardizuje a urychluje modelování ohnisek nákazy.

Důraz je kladen na rychlost, reprodukovatelnost a použitelnost i laiky, aby bylo možné rychle generovat politicky relevantní modely – i když jsou základní předpoklady neúplné nebo kontroverzní.

Jak to funguje: Technické články a poznámkové bloky → Rovnice → Modely

„Nástroje umělé inteligence v programu toto programování automatizují a umožňují výzkumníkům konstruovat, aktualizovat a kombinovat modely na vyšší úrovni abstrakce.“

Odstraněním velké části technických překážek spojených s tvorbou modelů tyto nástroje usnadňují vytváření modelů ohnisek, které mají institucionální váhu – a to i v případě, že je vědecký základ slabý nebo nejistý.

„Týmy ASKEM vyvinuly systémy umělé inteligence, které dokáží absorbovat vědeckou literaturu… a extrahovat rovnice a znalosti potřebné k vytvoření nebo aktualizaci konkrétního modelu.“

Vědecká literatura je přímo převedena do opakovaně použitelných modelových komponent, což umožňuje rychlé začlenění strojově interpretovaných výsledků výzkumu do rozhodovacích rámců.

„Projekt ASKEM vyvinul metodu pro zpracování těchto poznámkových bloků, extrakci podkladových matematických popisů a jejich převod do modelu.“

Neformální úvahy a průzkumná práce v poznámkovém bloku tak mohou být vysokorychlostně transformovány do použitelných modelů, čímž se zmenší propast mezi předběžným myšlením a směrodatnými výsledky.

Modelování zaměřené na intervenci

„Výsledný model integroval různé přenosové a sezónní vzorce virů a také posoudil účinky intervencí, jako je nošení roušek a testování.“

Systém je navržen tak, aby vyhodnocoval intervenční scénáře souběžně s dynamikou onemocnění a aby do procesu modelování přímo začleňoval politické aspekty.

„Testeri byli požádáni, aby modelovali dopad očkovací kampaně na náklady na hospitalizace kvůli hepatitidě A u bezdomovců, kteří užívají drogy, ve federálním státě.“

Tyto nástroje jsou zaměřeny na aplikované vládní otázky – náklady, cílové skupiny a dopad kampaní – a nikoli na čistě deskriptivní epidemiologii.

Tvrzení o rychlosti: o 83 % rychlejší

„V konečných výsledcích testeři zjistili, že nástroje ASKEM dokázaly vytvářet modely o 83 % rychleji ve srovnání se standardními modelovacími pracovními postupy.“

Proces modelování je dostatečně rychlý, aby se vešel do politických a mediálních časových rámců, čímž se snižuje možnost externího přezkoumání předtím, než se výsledky promění v praxi.

„Během 40hodinového pracovního týdne byli schopni vytvořit prakticky použitelné modely pro několik problémů.“

Jakmile rychlost přestane být limitujícím faktorem, tlak se přesouvá směrem k rychlé implementaci spíše než k pečlivému ověřování.

„Transparentnost“ jako vnitřní signál důvěry

„Vzhledem ke zvýšené transparentnosti modelů ASKEM testeři také zjistili, že osoby s rozhodovací pravomocí měly větší důvěru ve výsledky ASKEM než ve výsledky tradičních modelů.“

„Transparentnost“ zde funguje méně jako ochranný mechanismus a spíše jako způsob, jak zvýšit důvěru mezi osobami s rozhodovací pravomocí.

Tím, že jsou modely dostatečně srozumitelné, aby prošly interními audity, systém snižuje tření v institucích a umožňuje odpovědným osobám jednat rychleji, a zároveň do výsledků zahrne nevyřešené nejistoty.

Zamýšlení uživatelé: Zdravotnictví, obrana a zpravodajské služby

„DARPA pracuje na nalezení agentur nebo programů v oblasti zdravotnictví, obrany a zpravodajských služeb, které by chtěly využívat ASKEM.“

Modelování ohnisek nákazy je prezentováno jako trvalá funkce národní bezpečnosti a integrováno vedle obranných a zpravodajských funkcí, spíše než jako ad-hoc opatření v oblasti veřejného zdraví.

Závěr

DARPA buduje systém, který transformuje vědeckou literaturu, předpoklady a průzkumné analýzy do modelů ohnisek – dostatečně rychle, aby mohl vést intervence téměř v reálném čase.

Pokud je rychlost považována za primární omezení, okno příležitosti pro přezkoumání, námitky a smysluplné otázky nevyhnutelně se zhroutí dříve, než lze tyto modely použít k ospravedlnění jednání.

Jon Fleetwood