AI v kyberbezpečnosti rýchlo pribúda, s ňou však aj potreba kontroly
Umelú inteligenciu už v kybernetickej bezpečnosti aktívne využíva 78 percent organizácií. Vyplýva to z prieskumu SANS Institute, ktorý zahŕňal 536 IT a bezpečnostných odborníkov. O rok skôr pritom umelú inteligenciu v tejto oblasti využívala približne polovica organizácií.
Zároveň však rastie počet útokov, pri ktorých umelú inteligenciu využívajú aj útočníci. Viac ako tri štvrtiny respondentov zaznamenali útok podporovaný umelou inteligenciou. Až 95 percent respondentov predpokladá, že kyberzločinci AI už používajú.
Umelá inteligencia pritom útočníkom nepomáha iba pri tvorbe škodlivého kódu. Umožňuje existujúce útoky zrýchľovať, personalizovať a škálovať – od prieskumu a phishingu cez sociálne inžinierstvo až po deepfake scenáre či zneužitie kompromitovaných účtov.
AI pomáha obrancom zvládať podobné útoky, no prináša nový problém: potrebu kontrolovať jej výstupy. Časť práce bezpečnostných tímov sa preto presúva na overovanie, opravu a validáciu odporúčaní umelej inteligencie. Dohľad nad AI a jej integráciou navyše pribudol približne tretine respondentov.
Kľúčovou otázkou sa tak stáva dôvera. Organizácie už neriešia iba to, ako umelú inteligenciu technicky nasadiť, ale aj to, či dokážu jej rozhodnutia vysvetliť, spätne skontrolovať a určiť zodpovednosť za ne.
Prieskum zároveň upozorňuje na rozdiel medzi tým, ako vedenie vníma riadenie rizík spojených s umelou inteligenciou, a tým, čo pri každodennej práci vidia bezpečnostné tímy.
Ochrana pritom nemusí stáť iba na špecializovaných nástrojoch umelej inteligencie. Medzi najúčinnejšie opatrenia respondenti zaradili vzdelávanie používateľov aj kontrolu analytikmi. Dôležité zostávajú aj základné princípy kybernetickej bezpečnosti – správa identít, minimálne oprávnenia a ľudský dohľad.
Organizácie by preto mali umelú inteligenciu priebežne testovať a merať nielen podľa rýchlosti či efektivity, ale aj podľa presnosti, falošných výsledkov, prehliadnutých hrozieb a chybných odporúčaní. Zároveň potrebujú jasné pravidlá používania umelej inteligencie, evidenciu nástrojov, určenie zodpovednosti, kontrolu prístupu k dátam a auditné záznamy.
Súčasťou prípravy musia byť aj scenáre útokov využívajúcich phishing, deepfake, automatizovaný prieskum či samotné modely umelej inteligencie.
