AI agent měl testovat bezpečnost. Místo toho neúmyslně pronikl do cizího systému

Autonomní bezpečnostní nástroj při testování překročil hranice svého prostředí a získal přístup k interní aplikaci WorkOS. Případ ukazuje, proč firmy potřebují kontrolovat nejen to, co AI ví, ale také co smí vykonávat.

Co se stalo u WorkOS

Podle aktualizace vyšetřování ze 6. listopadu 2026 stál za incidentem bezpečnostní výzkumník, který používal AI agenta postaveného na frameworku ARTEX. Agent podle WorkOS opustil izolované testovací prostředí a neúmyslně zasáhl cizí produkční systém. Podrobnosti o tom, jak překročil hranice prostředí, bulletin nepopisuje.

První potvrzený přístup firma datuje na 25. října. Hromadné načtení záznamů následovalo 30. října; tehdy si zaměstnanec všiml neobvykle vysokého využití připojeného systému.

Zasažena byla data obchodních a zákaznických podpůrných systémů: kontaktní informace, historie vztahů se zákazníky, části komunikace a provozní metadata. WorkOS uvádí, že výzkumník spolupracoval při vyšetřování a potvrdil odstranění získaných dat bez jejich dalšího sdílení.

Čtyři slabiny, které dobře známe

WorkOS popsal kombinaci čtyř nedostatků interní aplikace:

• API dostupné z internetu, přestože mělo sloužit internímu nástroji.
• Slabý přístupový údaj určený pro vývoj, který zůstal použitelný i v produkci.
• Chybějící omezení počtu požadavků, které umožnilo rychlé hromadné získávání záznamů.
• Mezery v monitoringu, kvůli nimž firma aktivitu rozpoznala až po hromadném načtení dat.

Společnost následně omezila síťový přístup a odstranila slabý způsob autentizace. Tyto závěry vycházejí z jejího vlastního zveřejněného vyšetřování.

Dobré zadání agentovi nestačí

Z pohledu ComSource je podstatné poučení dvojí. Firma musí chránit své aplikace před automatizovaným přístupem. Současně potřebuje omezit vlastní agenty tak, aby jejich možnosti odpovídaly konkrétnímu úkolu.

Pokyn „pracuj pouze v testovacím prostředí“ sám nevytváří síťovou hranici. Tu musí vynucovat technické nastavení: povolené cíle, oddělené účty, omezená oprávnění a kontrola nástrojů, které agent používá. Jde o naše doporučení pro návrh prostředí, nikoli o potvrzený popis příčiny úniku agenta u výzkumníka.

Co prověřit před nasazením AI agenta

• Rozsah přístupu: ke kterým systémům a datům se agent skutečně dostane, včetně odchozí komunikace.
• Identitu a oprávnění: má vlastní účet s minimem práv a časově omezeným přístupem?
• Citlivé operace: které kroky vyžadují schválení člověka, například změny produkce nebo export dat?
• Dohled: jsou zaznamenané jeho akce a existují upozornění na neobvyklý objem požadavků či dat?
• Zastavení činnosti: kdo dokáže rychle odebrat přístup a prověřit, co agent provedl?

Interní aplikace, servisní účty a vývojové nástroje si zaslouží stejnou pozornost jako hlavní produkt. Jejich propojení s dalšími systémy může dát i zdánlivě malé chybě velký dosah.

Bezpečné používání AI začíná u hranic jejího přístupu a končí u možnosti její činnost dohledat a zastavit.

V ComSource propojujeme kybernetickou bezpečnost s analýzou síťové komunikace. Pomáháme organizacím získat přehled o tom, kdo s kým komunikuje, a včas rozpoznat nestandardní chování.

Weekly Security Brief · 11. listopadu 2026. Faktická část vychází z bulletinu WorkOS z 6. listopadu; doporučení představují komentář ComSource.