Bývalí zaměstnanci DOGE se během 12 hodin nabourali do interních systémů společnosti Anthropic – a to, co zjistili, je alarmující

Startup v oblasti kybernetické bezpečnosti, založený před pouhými několika měsíci bývalými zaměstnanci DOGE, tvrdí, že jeho agenti umělé inteligence našli cestu do interních systémů společnosti Anthropic za méně než 12 hodin, informoval v pondělí deník Washington Post s odvoláním na návrh zprávy, který si přečetl. Společnost Cathedral tvrdí, že získala přístup k zápisům ze schůzí, informacím o platech a pracovních nabídkách a ke zprávám na Slacku o nejpokročilejších modelech společnosti Anthropic. K narušení nedošlo v samotném systému Claude – hackeři zneužili zranitelnosti v podnikovém softwaru třetích stran, administrativních a prodejních nástrojích, které většina společností používá. Post neuvedl jméno dodavatelů.

Katedrála oznámila zjištění společnosti Anthropic začátkem tohoto měsíce prostřednictvím programu Anthropic Bug Bounty, který platí externím výzkumníkům za hlášení zranitelností, a také informovala dotčené dodavatele. Návrh popisuje výsledek jako důkaz „významného rozdílu mezi vznikajícími útočnými schopnostmi a obrannými opatřeními“ a uvádí, že „přístup k datům byl omezen na absolutní minimum“. Mluvčí katedrály se k události deníku Post odmítl vyjádřit.

Společnost Anthropic uvádí, že narušení bylo mnohem omezenější – Cathedral získala přístup k „omezenému výběru“ svých prodejních, HR a IT systémů, včetně některých kontaktních informací na zákazníky a partnery a také k základním údajům o uživatelských účtech, a téhož dne startupu zablokovala další přístup. Společnost uvádí, že uživatelské konverzace Claude, zdrojový kód a váhy modelů nebyly ovlivněny, její vlastní monitorování odhalilo část aktivity ještě předtím, než ji Cathedral nahlásila, a neexistují žádné důkazy o tom, že by někdo jiný tyto zranitelnosti zneužil, uvádějí Gizmodo a Tech Startups . Anthropic také uvádí, že se výzkumníci několik dní neúspěšně pokoušeli přímo infiltrovat její vlastní software, než se obrátili na aplikace dodavatelů.

Společnost Anthropic obviňuje Cathedral z porušení pravidel programu odměn za nalezené chyby tím, že nezveřejnila všechny své aktivity a zveličovala „údajný dopad na národní bezpečnost“. Společnost Anthropic vypnula dotčený software, dokud dodavatelé neopravili zranitelnosti a neinformovali federální úředníky.

Bezpečnostní expert, který na žádost deníku Post prozkoumal zjištění, uvedl, že Cathedral „nalezl něco velkého“. Prozkoumal je Alex Stamos, hlavní pracovník informační bezpečnosti ve společnosti Cognition. „Našli tady něco velkého,“ řekl a dodal, že Anthropic „mohl udělat mnohem více pro regulaci externích dodavatelů softwaru“. Cognition používá modely od Anthropic a dalších laboratoří. Vysoký úředník Trumpovy administrativy listu Post řekl, že zpráva kolovala v rámci vlády a vyvolala bezpečnostní obavy: „Pokud to dokáže pár mladých lidí, kteří právě založili firmu, Číňané nemusí být daleko pozadu.“

Cathedral není neznámá společnost. Gizmodo uvádí jako její zakladatele Gavina Kligera, Luka Farritora, Marka Eleze a Jacka Steina , všechny veterány DOGE. Kliger byl hlavním datovým manažerem Pentagonu a údajně je napojen na právní bitvu Pentagonu se společností Anthropic. Agentura Reuters v červenci informovala, že Cathedral s podporou Andreessena Horowitze a společnosti Sequoia získala 160 milionů dolarů při ocenění společnosti na 1,4 miliardy dolarů. Vysoce postavený vládní úředník listu Post sdělil, že s touto společností nedávno podepsaly smlouvy tři federální agentury.

Toto odhalení přichází v době, kdy Anthropic hledá veřejné investory. V pondělí společnost zveřejnila svou zprávu S-1, která ukázala provozní zisk 974 milionů dolarů oproti účtářským 800 miliardám dolarů. Bezpečnostní problém pro laboratoř, která se pyšní svou bdělostí, se nyní stal konkrétním incidentem – a obě strany se neshodují na jeho závažnosti.

Napsal Tyler Durden