Robert W. Malone: Umělá inteligence, kterou vám nechtějí dát

Biologická inteligence, státní moc a nový stát biologické bezpečnosti

Anthropic je americká společnost zabývající se umělou inteligencí, kterou v roce 2021 založili bývalí vedoucí pracovníci a výzkumníci OpenAI, včetně Daria Amodeiho. Vyvíjí rodinu modelů umělé inteligence „Claude“ a silně se zaměřuje na bezpečnost, sladění a aplikace umělé inteligence v oblasti národní bezpečnosti.

Nedávná omezení veřejného přístupu společnosti Anthropic k jejím nejpokročilejším systémům umělé inteligence pro biologický výzkum odhalují něco mnohem významnějšího než debatu o umělé inteligenci.

• Odhalují vznik nové doktríny.
• Výkonné funkce pro veřejnost budou omezeny.
• Výkonné funkce pro vlády a schválené instituce zůstanou zachovány.
• Uvedeným důvodem je biologická bezpečnost.

Podle společnosti Anthropic disponují její nejpokročilejší modely schopnostmi pro sofistikovaný biologický výzkum. Společnost vyjádřila obavy, že by tyto systémy mohly být použity v pokročilém experimentálním designu, biologickém uvažování a dalších činnostech, které by mohly být zneužity.

Výkonné technologie s sebou nesou rizika.

Předložený argument je jednoduchý. Tyto dovednosti jsou údajně příliš nebezpečné pro nezávislé vědce, malé laboratoře, podnikatele, občanské vědce a širokou veřejnost. Ale v rukou vlád a institucí, kterým vlády důvěřují, jsou nějakým způsobem v bezpečí.

Jaké důkazy tento závěr podporují?

Než předáme kontrolu nad těmito technologiemi vládám a jejich preferovaným partnerům, měli bychom se možná zabývat historií institucí, které tuto důvěru vyžadují.

Tentýž státní aparát, který se nyní prezentuje jako strážce biologické umělé inteligence, po léta financoval, dohlížel, bránil a v mnoha případech i zatajoval kontroverzní výzkumné programy zaměřené na „zisk z funkce“.

Senátor Rand Paul se léta zabýval otázkami finančních toků NIH, EcoHealth Alliance, Virologického institutu ve Wu-chanu a byrokratické hry s falšováním, která často umožňuje agenturám distancovat se od odpovědnosti a zároveň si zachovat kontrolu nad financováním a politikou. Nyní je prakticky nepopiratelné, že federální prostředky protékaly složitou sítí grantů, subdodávek, zahraničních laboratoří a výzkumných partnerů zapojených do stále rizikovějšího virologického výzkumu. Objevily se silné důkazy o tom, že výzkum financovaný USA přispěl k práci relevantní pro vývoj SARS-CoV-2 a část této práce probíhala v laboratořích zde ve Spojených státech.

Zajímavým aspektem tohoto příběhu není samotný výzkum, ale úsilí potřebné k odhalení základních faktů o něm.

Získání odpovědí vyžadovalo roky kongresových vyšetřování, předvolání, slyšení, žádostí o dokumenty, oznamovatelů, soudních sporů a neúnavného veřejného tlaku. E-maily byly zadržovány. Dokumenty byly zveřejňovány jen s neochotou. Definice byly měněny. Zdálo se, že úřady se opakovaně více zajímají o ochranu programů a jejich reputace než o zajištění transparentnosti.

To není důkaz systému charakterizovaného otevřeností a odpovědností.

Je to důkaz systému, který se brání kontrole.

Což nás přivádí ke kongresu

Co Kongres vlastně udělal s informacemi, které odhalil?

Konala se slyšení. Objevily se zprávy. Objevily se silně formulované dopisy, předvolání, doporučení a veřejné konfrontace. Základní struktura však zůstává do značné míry nedotčena. Výzkum nadále financují stejné agentury (s výjimkou USAID, jehož výzkumné aktivity s „dvojím účelem“ byly částečně přesunuty na jiné agentury). Stejná byrokracie biodefense nadále funguje. Fungují stále stejné mechanismy financování. Stejná selhání dohledu, která byla zpočátku důvodem k obavám, zůstávají prakticky nezměněna. Ti, kdo systém zpochybňují, jsou vládou nejen umlčováni, ale také marginalizováni. Jejich služby již nejsou potřeba. Jejich názory by se neměly brát v úvahu.

Kongres prokázal svou schopnost vyšetřovat. Neprokázal však svou schopnost vládnout.

Toto selhání je významné, protože debata o biologické umělé inteligenci předpokládá existenci kompetentního a odpovědného dohledu. Nedávná historie výzkumu zaměřeného na zisk z funkce však naznačuje pravý opak. Pokud se Kongres potýkal s výkonem smysluplného dohledu nad tradičními biologickými výzkumnými programy, proč by měl někdo očekávat, že bude úspěšnější v monitorování systémů umělé inteligence, které mají potenciál dramaticky urychlit biologický výzkum?

Vyvstává otázka.

Proč je společnosti Anthropic – nebo jakékoli jiné průkopnické společnosti v oblasti umělé inteligence – dovoleno rozvíjet technologie, které podle jejích vlastních vedoucích pracovníků představují bezprecedentní biologická rizika?

A pokud jsou tyto dovednosti skutečně tak nebezpečné, jak se tvrdí, kdo přesně vykonává dohled?

V současné době se zdá, že odpovědí je malý okruh společností, federálních agentur, dodavatelů a vybraných partnerů, kteří rozhodují jménem všech ostatních.

Toto není strategie biologické bezpečnosti.

Je to koncentrace moci.

Pak je tu otázka operační způsobilosti.

Teprve letos federální prokurátoři vznesli obvinění proti výzkumníkovi NIH Claudu Kweovi a vědci NIH Vincentu Munsterovi v souvislosti s údajným pašováním biologického materiálu, včetně vzorků Mpoxu, do Spojených států.

Tytéž instituce, které nás ujišťují, že pokročilé biologické schopnosti umělé inteligence musí být přísně kontrolovány, nejsou schopny spolehlivě kontrolovat nelegální a protiprávní celosvětovou přepravu biologického materiálu vládními výzkumníky, ani nemohou kontrolovat přepravu a monitorování nebezpečných patogenů ve vlastních výzkumných ekosystémech.

Veřejnost má věřit, že budoucí systémy umělé inteligence schopné urychlit biotechnologický výzkum a vývoj biologických zbraní budou nějakým způsobem nakládány kompetentněji než patogeny a biologický materiál, které jsou již pod kontrolou vlády.

Proč by tomu někdo věřil?

Základní problém spočívá v tom, že argument biologické bezpečnosti předpokládá, že vláda je jediným, jednotným aktérem.

Ona není.

Vláda je rozsáhlá síť agentur, dodavatelů, univerzit, vojenských laboratoří, zpravodajských služeb, příjemců grantů, subdodavatelů a mezinárodních partnerů. Mnoho odborníků zapojených do operací americké vlády na vysoké úrovni popisuje tuto strukturu spíše jako soubor samostatných vlád – každá agentura na úrovni kabinetu je částečně autonomní.

Ti, kteří jsou zastánci centralizované kontroly, často hovoří, jako by přenesení odpovědnosti na „vládu“ problém vyřešilo.

Ve skutečnosti se tím pouze posouvá místo problému.

• Stejné pobídky zůstávají v platnosti.
• Stejné lidské slabosti přetrvávají.
• Stejné byrokratické nedostatky přetrvávají.
• Stejné střety zájmů přetrvávají.
• Stejná úroveň utajení zůstává zachována.

A nyní dochází k dalšímu vývoji.

Podle nedávných prohlášení připisovaných řediteli Národní zpravodajské služby americká vláda uznala, že provádí biologický výzkum v zahraničí prostřednictvím sítě mezinárodních partnerství a laboratoří. Zdá se, že dochází k aktivnímu a probíhajícímu „outsourcingu“ biologického výzkumu dvojího užití. „Dvojí užití“ je zdvořilý a politicky korektní eufemismus pro biologický výzkum, který lze použít buď k biologické obraně, nebo k biologické válce.

Zda jsou tyto programy popisovány jako biologická obrana, preventivní opatření v oblasti veřejného zdraví, snižování hrozeb, sledování patogenů nebo něco jiného, ​​je téměř irelevantní.

Ústředním faktem je, že biologický výzkum je již prováděn prostřednictvím složitého mezinárodního ekosystému, kterému jen málo občanů rozumí a ještě méně politických činitelů mu dokáže plně porozumět. Z nějakého důvodu se tyto biolaboratoře často nacházejí v krizových zónách, například na ukrajinsko-ruské hranici, což vyvolává dojem, že jsou využívány k postranním úmyslům. Pojem „dvojí funkce“ zřejmě slouží jako zástěrka pro výzkumné a vývojové aktivity v oblasti biologické války, které jsou ve skutečnosti zakázány. Lze argumentovat, že skutečným důvodem, proč se americká vláda tak zdráhá novelizovat Úmluvu OSN o biologických zbraních („ Úmluva o zákazu vývoje, výroby a hromadění bakteriologických (biologických) zbraní a toxinových zbraní a o jejich zničení “) tak, aby zahrnovala vymahatelné sankce, je to, že by to mohlo být použito k tomu, aby americká vláda byla odpovědná za aktivity v této oblasti.

Nicméně nám nyní říkají, že právě těmto institucím by měl být svěřen exkluzivní přístup k systémům umělé inteligence, které jsou schopny dramaticky urychlit biologický výzkum a vývoj – včetně aktivit „dvojího užití“.

Zároveň vláda a nadnárodní korporace omezováním veřejných znalostí a přístupu k pokročilým systémům umělé inteligence fakticky eliminují veřejnou kontrolu.

Toto tvrzení si zaslouží skepsi.

Pokročilá umělá inteligence přispěje k vývoji nebezpečných biotechnologických systémů. To je fakt.

Zde je další nepříjemná realita. Pokročilá biologická umělá inteligence představuje skutečná rizika pro biologickou bezpečnost, takže omezení přístupu v rámci Spojených států nezabrání nepřátelským národům ve vývoji nebo získávání podobných schopností. Ve skutečnosti si můžeme být jisti jako slunce vycházející na východě, že se tak stane, a už to udělají.

Vznik DeepSeeku měl rozbít jakoukoli iluzi, že pokročilé schopnosti umělé inteligence mohou zůstat trvale omezeny na hrstku amerických společností. Během několika měsíců čínská společnost prokázala, že mnoho schopností, o nichž se dříve předpokládalo, že vyžadují obrovské zdroje a privilegovaný přístup, lze replikovat za mnohem nižší náklady, než odborníci předpovídali. Ať už vnímáme DeepSeek jako úspěšný příběh inovací, problém národní bezpečnosti nebo narušení trhu, ponaučení je stejné: znalosti se šíří. Informace a technologie neznají hranic.

Je nepravděpodobné, že by Čína, Rusko, Írán, Severní Korea a další znepřátelené státy dobrovolně omezily výzkum technologií, které by mohly nabídnout strategické výhody v oblasti biotechnologií, biologické obrany, farmaceutického vývoje, charakterizace patogenů nebo potenciálních programů biologických zbraní. Pokud průlomové systémy umělé inteligence dokáží smysluplně urychlit biologický výzkum, tyto schopnosti se nevyhnutelně rozšíří.

Výsledkem by mohl být svět, v němž občané USA, nezávislí vědci a menší výzkumné instituce čelí rostoucím omezením, zatímco zahraniční vlády budou i nadále prosazovat své vlastní programy s malým počtem srovnatelných podmínek.

V tomto scénáři tvůrci politik riziko neodstraňují. Pouze soustředí zdroje na státy a velké instituce v naději, že se američtí geopolitičtí rivalové rozhodnou nejít stejnou technologickou cestou. DeepSeek naznačuje, že tato naděje se pravděpodobně nenaplní.

V současné době neexistuje žádný mezinárodní rámec, který by byl schopen kontrolovat biologický výzkum řízený umělou inteligencí. Neexistuje žádná vymahatelná smlouva, žádný inspekční systém hodný svého jména a žádný důvod se domnívat, že se geopolitičtí rivalové dobrovolně zdrží takového jednání. Úmluva o biologických zbraních je pozůstatkem jiné éry. Neobsahuje žádná smysluplná ověřovací ustanovení, žádné účinné donucovací pravomoci a nenabízí žádné prostředky, které by národům bránily v rozvoji schopností, které považují za strategicky důležité. Vytváří zdání kontroly, ale skrývá za ní jen malou podstatu.

Zdá se také, že neexistuje způsob, jak vrátit džina zpět do láhve.

Otázkou je, kdo tyto schopnosti získá?

Zdá se, že Anthropic a další pracují na modelu, v němž vlády, velké korporace, zpravodajské služby, vojenské organizace a schválení partneři budou mít i nadále přístup, zatímco veřejnost bude dostávat stále omezenější verze.

Oficiálním zdůvodněním je bezpečnost.

Praktickým efektem je koncentrace moci.

Než ale tyto schopnosti předáme institucím, které nám daly roky kontroverzí ohledně funkčních zisků, neprůhledných programů obrany proti biologickým zbraním, mezinárodních výzkumných sítí, selhání v dohledu nad dodavateli a opakovaných bojů o transparentnost, měli by si občané položit jednoduchou otázku.

Co přesně tato vládnoucí třída udělala, aby si tuto důvěru zasloužila?

Spousta řečí, dohled ve stylu Potěmkina a žádná legislativa.

Nedávná historie nabízí jednoduchou, transparentní a jasnou odpověď: prakticky nic. Zdá se, jako by „pobídky k akci nebyly sladěny“.