Rok 2026: Agentická AI sa stáva autonómnym vektorom útoku
V súčasnosti sa na obzore čoraz viac objavuje trend agentickej AI, ktorá sa od klasických generatívnych modelov podstatne líši. Kým tradičná AI, ako sú ChatGPT alebo Copilot, generuje obsah podľa pokynov používateľa, agentická AI má schopnosť autonomne plánovať kroky, rozhodovať sa a vykonávať komplexné úlohy bez nutnosti priameho zásahu človeka. Týmto spôsobom sa stáva výrazne nebezpečnejšou, pretože môže zasahovať do systémov a aplikácií na úrovni, ktorá bola doteraz prístupná len programátorom.
Vzrastajúce riziko kybernetickej bezpečnosti
Podľa analýzy Alison Slovakia sa stáva agentická AI vážnym rizikom pre kybernetickú bezpečnosť. Používatelia často bez dostatočného rozmyslu zdieľajú prístup k vysoko privilegovaným nástrojom, čo vytvára ideálne podmienky pre kybernetické útoky. Štatistiky naznačujú, že takmer polovica odborníkov na bezpečnosť vníma agentov AI ako najvážnejší vektor útoku v nadchádzajúcich rokoch.
Superagent OpenClaw
Jedným z najznámejších projektov, ktoré demonštrujú schopnosti agentickej AI, je OpenClaw. Tento open-source super agent dokáže plniť rad úloh, ako je odosielanie e-mailov či správa webových prehliadačov. Práca s týmto nástrojom však neprichádza bez rizika. Výskumníci zo spoločnosti Kaspersky identifikovali početné zraniteľnosti, z ktorých niektoré môžu byť kritické a umožniť útočníkom získať prístup k citlivým systémom.
Typy útokov na AI agentov
Útočníci majú viacero metód, ako sa dostať k AI agentovi a manipulovať s jeho činnosťami. Rôzne formy injekcií príkazov, otrávenie nástrojov a útoky na reťazec nástrojov sú len niektoré z techník, ktoré sa ukazujú ako účinné. Napríklad v jednom prípade sa útočníkovi podarilo manipulovať kryptopeňaženky prostredníctvom bežného príspevku na sociálnej sieti, na ktoré agent reagoval bez predchádzajúceho upozornenia.
Konflikt medzi Shadow AI a Shadow Data
Problém sa komplikuje aj s fenoménom známy ako Shadow AI, keď zamestnanci nasadzujú vlastných agentov bez súhlasu IT oddelenia. Tieto neoficiálne nástroje sa často prepletajú s „shadow data“, neoficiálnymi a nespravovanými údajmi, ktoré predstavujú dodatočné riziko pre firmy. Štúdie ukazujú, že viac ako jedna tretina únikov informácií má svoj pôvod v týchto nespravovaných dátach.
Neúspešné obrany
Alarmujúca správa je, že väčšina obranných techník proti útokom na agentov AI zatiaľ zlyháva. Rôzne metódy ochrany sa ukázali ako neúčinné pri adaptívnych útokoch, pričom úspešnosť deštruktívnych akcií bola nad 90 percent. Tento problém je vnímaný ako hrozba pre bezpečnostnú architektúru AI a nemožno ho ignorovať.
Rastúci trh AI agentov
Očakáva sa, že trh s AI agentmi porastie exponenciálnym tempom. V hodnotení z roku 2025 sa jeho hodnota odhadovala na 7,8 miliardy dolárov a prognózy naznačujú, že do roku 2030 narastie na takmer 52 miliárd dolárov. Firmy sa pripravujú na integráciu AI agentov do svojich aplikácií, čo im môže poskytnúť konkurenčné výhody, ale takisto zvyšuje bezpečnostné riziko.
Útočníci využívajú agentickú AI
Útočníci dnes môžu nasadiť vlastných AI agentov, čo im umožňuje automatizovať a urýchliť procesy obdobne, ako to robia legitímne podniky. Týmto spôsobom môžu efektívne obchádzať bezpečnostné opatrenia, z hľadiska času a efektivity sú významne rýchlejší v dosahovaní svojich cieľov.
