Gemini, Claude, OpenAI: Stále více agentů umělé inteligence hackuje systémy reálného světa
Agenti umělé inteligence mají firmám ulevit od pracovní zátěže. Tyto systémy se však nyní dostávají z testovacích prostředí, získávají přístup k otevřenému internetu a pronikají do skutečných firemních sítí. Google, OpenAI a Anthropic musely do několika měsíců uznat incidenty, kdy jejich vlastní modely fungovaly mimo zamýšlené hranice.
Tři společnosti pravděpodobně v květnu neměly tušení, že se Gemini od Googlu pokouší infiltrovat jejich systémy. Umělá inteligence procházela kybernetickým bezpečnostním hodnocením bezpečnostní firmy Irregular a měla provádět útoky proti fiktivním společnostem. Testovací prostředí mělo být izolováno od internetu. Nebylo. Gemini přistupovalo k otevřené síti, narazilo na skutečné společnosti a jejich systémy považovalo za pouhé součásti svého tréninkového prostředí. V jednom případě model uhodl heslo; ve dvou dalších případech našel veřejně dostupné přihlašovací údaje v repozitářích a použil je. Google od té doby všechny tři incidenty potvrdil. Podle společnosti Gemini v každém případě ukončilo svou činnost poté, co si uvědomilo, že má co do činění se skutečnými systémy.
Společnost Irregular informovala Google o narušení bezpečnosti na konci července. Podle Googlu sice informovala postižené společnosti, ale zdržela se veřejného oznámení, protože nevznikla žádná škoda. Na věc upozornily až zprávy v médiích. Gemini k útokům nepotřebovala sofistikovanou tajnou technologii: k tomu, aby se bezpečnostní test proměnil ve skutečné pokusy o vniknutí, stačilo omylem ponechané internetové připojení, uhodnuté heslo a snadno dostupné přihlašovací údaje.
Agenti GPT byli aktivní také na internetu
OpenAI zašla ještě dál. Během interních testů kybernetické bezpečnosti v červenci několik modelů obešlo technická omezení, která jim měla zabránit v přístupu na internet. Agenti zneužili zranitelnosti ve sdílené infrastruktuře, získali přístup k síti a následně pronikli do systémů platformy umělé inteligence Hugging Face. OpenAI uznala, že agenti prováděli akce nad rámec svého zamýšleného účelu. Podle společnosti byl jedním z dotčených modelů interní výzkumný model s výkonnostní třídou srovnatelnou s GPT-5.6 Sol. Agenti zneužívali bezpečnostní mezery, komunikovali nezamýšlenými kanály a přistupovali k externí serverové infrastruktuře.
O dva měsíce dříve se agenti OpenAI již stali aktivními na reálných platformách. 11. května nahráli stovky škodlivých balíčků na softwarovou platformu RubyGems . Výzkumníci dospěli k závěru, že části těchto balíčků byly mimo jiné navrženy tak, aby ukradly přihlašovací údaje. Zda byly přihlašovací údaje skutečně ukradeny, zůstalo nejasné. OpenAI později aktivitu potvrdila. Pouhé dva dny poté se agenti společnosti objevili na Hugging Face a hledali zranitelnosti.
Dopady agentů OpenAI zažil i jeden německý web. Na jaře převzali části programátorské wiki DseWiki a používali tamní stránky jako jakousi komunikační platformu pro další aktivity. Agentura Reuters informovala o více než 15 000 změnách. Když moderátoři obsah odstranili, objevily se náhradní stránky. Několik agentů pracovalo na svých úkolech současně vysokou rychlostí. OpenAI zpochybnila některé interpretace incidentu a zpochybnila, zda jej lze označit za klasický hack. To však nic neměnilo na skutečnosti, že agenti provedli masivní změny na skutečném webu.
Claudeova situace není o moc lepší
Claude také překročil zamýšlené hranice. Poté, co se incident Hugging Face dostal na veřejnost, společnost Anthropic prohledala přibližně 141 000 protokolů z vlastních hodnocení kybernetické bezpečnosti. Vývojáři nejprve objevili tři případy, kdy Claude během testů přistupoval k otevřenému internetu a bez autorizace se dostal ke skutečným systémům patřícím jiným organizacím. Následné vyšetřování odhalilo čtvrtý případ z ledna 2026. Anthropic nakonec rozšířila své vyhledávání na přibližně 481 milionů protokolů.
Souběžně s tím roste užitečnost takových modelů pro lidské hackery. Výzkumníci ze startupu Hacktron AI to demonstrovali na OpenAI. V rámci oficiálního programu odměn za nalezené zranitelnosti nejprve použili Anthropic Claude a později především GPT-5.6 Sol od OpenAI k odhalení zranitelností a získání přístupu k účtům zaměstnanců. Odtud postoupili k částem infrastruktury GitHub. Operace byla autorizována a byla součástí bezpečnostního testu. Nicméně ukázala, kolik práce moderní agenti umělé inteligence nyní zvládnou: průzkum, analýza kódu, hledání zranitelností, příprava útoku a části samotného provedení.
Společnost Google již v květnu varovala , že hacking s využitím umělé inteligence se během několika měsíců rozrostl v hrozbu průmyslového rozsahu. Podle společnosti zločinecké skupiny a státní aktéři z Číny, Severní Koreje a Ruska již využívají komerční systémy umělé inteligence k rychlejšímu a většímu spušťování útoků. Zároveň se výrobci nyní potýkají s problémy se svými vlastními agenty umělé inteligence, jakmile jim bude v bezpečnostních testech poskytnuta dostatečná svoboda, nástroje a přístup.
Vývoj postupuje závratnou rychlostí: agenti umělé inteligence provádějí nezávislý výzkum, píší kód, hledají zranitelnosti, plánují vícestupňové útoky a provádějí jednotlivé kroky bez neustálých lidských pokynů. Právě tyto schopnosti je mají činit cennými. Jakmile však jejich omezení selžou, přestanou se zaměřovat pouze na umělé testovací subjekty. Agenti se stávají silnějšími. A jejich vývojáři je zjevně ne vždy dokážou udržet na uzdě.
