Anthropic buduje stát digitálního dohledu: Aktivisté jsou terčem umělé inteligence

To, co lze prodávat jako ochranu zaměstnanců a vedoucích pracovníků, se zjevně vyvíjí v něco mnohem většího: Podle výzkumu společnosti American Prospect si americká společnost zabývající se umělou inteligencí Anthropic buduje vlastní bezpečnostní a zpravodajskou strukturu, která monitoruje aktivisty, sleduje jednotlivce po delší dobu a má za cíl odhalit potenciální hrozby dříve, než se cokoli stane.

To staví jednu z těch společností, které veřejně varují před nebezpečím umělé inteligence, do pozice, která vyvolává otázky o limitech soukromého sledování.

Zpráva je mimo jiné založena na pracovních nabídkách a prohlášeních vedoucích pracovníků bezpečnostních složek společnosti Anthropic. Podle zprávy jsou monitorovány nejen demonstrace v blízkosti firemních prostor, ale také protestní hnutí v rámci vedoucích pracovníků.

Jak přesně tento dohled již funguje, ukazuje rozhovor s bezpečnostními manažery společnosti Anthropic a šéfem společnosti Samdesk, která se zabývá analýzou rizik, který hodnotil server American Prospect .

Podle bezpečnostního manažera dostala společnost Anthropic asi hodinu před plánovanou demonstrací informaci, že organizátoři změnili čas protestu. Společnosti se tak podařilo změnit trasu jednoho ze svých manažerů a do hotelu ho přivést jiným vchodem.

Co zpočátku zní jako běžná osobní ochrana, nabývá jiného rozměru, když člověk vezme v úvahu další tvrzení.

Společnost Anthropic v červenci listu Wall Street Journal vysvětlila , že monitoruje podezřelé chování po delší dobu pomocí „procesu zaměřeného na osobu v zájmu “. Cílem je co nejdříve identifikovat vzorce eskalace. Několik osob, které se později staly předmětem policejních hlášení, bylo dříve pozorováno bezpečnostním oddělením společnosti.

Směr se stává ještě jasnějším v inzerátu na pracovní pozici v oddělení globální bezpečnosti, zpravodajství a ochrany (GSIS) společnosti Anthropic .

Hledá se specialista na zpravodajské služby, který by identifikoval, posuzoval, sledoval a vyšetřoval hrozby po celém světě. Mezi tyto potenciální hrozby stojí za zmínku to, co Anthropic uvádí:

Kromě terorismu, kriminality, geopolitické nestability a aktivit státních aktérů je zde výslovně zahrnut i „aktivismus“ .

To se dotýká hranice, která by ve svobodné společnosti měla být jednoznačná: Politický protest sám o sobě není bezpečnostní hrozbou. Lidé mohou demonstrovat proti společnostem, datovým centrům, umělé inteligenci nebo jejich společenským důsledkům, aniž by byli vystaveni stejné analytické infrastruktuře, která se zabývá terorismem a zločinem.

Další fáze vývoje je ještě problematičtější.

Manažer antropické bezpečnosti popisuje cíl jako přechod od reaktivního shromažďování zpravodajských informací k proaktivnímu, prediktivnímu a preventivnímu řízení hrozeb . American Prospect to proto označuje jako „předzločinný“ přístup .

Základní myšlenka je výbušná: Opatření nejsou spouštěna pouze skutečným trestným činem. Data a vzorce chování mají spíše poskytnout vodítka k tomu, kdo by se v budoucnu mohl stát nebezpečným.

Tím se klíčová otázka posouvá z „Co někdo udělal?“ na „Co by někdo mohl udělat?“. Právě v tom spočívá nebezpečí takových systémů.

Algoritmy, OSINT data, sociální sítě, informace o protestech a interní uživatelská data lze teoreticky kombinovat a vytvářet tak stále komplexnější rizikové profily. Kdo pak rozhoduje o tom, kdy se kriticky naladěný občan změní z demonstranta na „podezřelého aktéra“ a nakonec na „zájemnou osobu“?

Že tato otázka není teoretická, dokazuje další případ popsaný ve zprávě.

Společnost Anthropic nahlásila policii uživatele služby Claude poté, co uživatel umělé inteligenci sdělil, že si koupil samonabíjecí pušku a mířil na generálního ředitele společnosti Daria Amodeiho. Takové prohlášení je nepochybně závažné. Je však pozoruhodné, že podle deníku San Francisco Standard společnost Anthropic následně odmítla policii poskytnout dotyčné zprávy s odvoláním na interní politiku.

Tento případ ilustruje základní problém s mocí: Soukromá společnost shromažďuje informace, vyhodnocuje chování uživatele a může z nich odvodit posouzení rizik, které následně podnítí kroky státních orgánů.

Od společnosti s umělou inteligencí k soukromé zpravodajské struktuře

Důsledky budou ještě větší, pokud budou společnosti zabývající se umělou inteligencí a jejich datová centra oficiálně klasifikovány jako kritická infrastruktura . V USA již existují politické výzvy k tomuto kroku.

Pokud by tento trend pokračoval, ekonomické zájmy společností zabývajících se umělou inteligencí by se mohly stále více prolínat se zájmy národní bezpečnosti. Protesty proti gigantickým datovým centrům, jejich spotřebě energie a vody nebo společenským důsledkům umělé inteligence by pak již nemohly být vnímány pouze jako politické spory, ale stále častěji optikou „bezpečnosti“.

To neznamená, že Anthropic dnes zachází s pokojnými demonstranty jako s teroristy. Výzkum pro to neposkytuje žádné důkazy. Technická a organizační infrastruktura, která by takový vývoj umožnila, se však evidentně formuje: vlastní zpravodajské týmy, OSINT výzkum, sledování protestů, „zájemné osoby“, prediktivní analýzy hrozeb a kontakty s policejními orgány.

Veřejná sebeprezentace Anthropic je obzvláště rozporuplná.

Na začátku roku se společnost bránila možnosti, že by její umělá inteligence mohla být použita americkou armádou k hromadnému sledování v zemi. Zároveň Anthropic nyní buduje vlastní strukturu, jejímž deklarovaným cílem je včas identifikovat potenciální hrozby a explicitně monitorovat aktivismus.

Možná nejvýstižněji popsal skutečný problém sám generální ředitel společnosti Anthropic Dario Amodei. Nedávno napsal, že populace nedůvěřuje korporacím, vládám ani technologickému průmyslu a neustále podezřívá, že tyto subjekty vyvíjejí nové způsoby, jak je zneužívat.

Struktury dohledu, které nyní vyšly najevo, pravděpodobně tuto nedůvěru nesníží.

Kdo s využitím těchto systémů rozhoduje o tom, kteří občané budou v budoucnu považováni za riziko – a to ještě předtím, než cokoli udělají?