Nečakaná hrozba: Nový typ kybernetického útoku zasahuje oblasť umelej inteligencie
V súčasnosti sa čoraz viac objavujú novinky týkajúce sa kybernetických útokov, pričom jedným z najnovších a najnebezpečnejších je útok s názvom RA-ICA (Retrieval-Augmented Inference Cost Attack). Tento útok je špecifický tým, že neznefunkčňuje systém ani sa neprejavuje požiadavkou na výkupné. Avšak, jeho zákernosť spočíva v možnosti prehnane zvýšiť náklady na využívanie umelej inteligencie bez vedomia používateľa.
Útok v podstate „v tichosti“ manipuluje s nákladmi používateľa. Počas interakcie s AI, užívateľ poskytne príkaz, ktorý AI spracováva pomocou rôznych zdrojov. Bohužiaľ, útočníci do týchto zdrojov vkladajú škodlivé dokumenty, ktoré umelá inteligencia považuje za relevantné. Tieto dokumenty sú koncipované tak, aby nútili AI vykonávať zbytočnú prácu, čím sa zvyšuje objem vygenerovaných tokenov a predĺžuje čas odpovede.
Mechanizmus útoku a jeho dopady
Dôležité je, že pri tomto type útoku nie je spravidla možné rýchlo rozpoznať, že obyčajný príkaz dostáva netypické spracovanie. Kým pri bežných útokoch môže používateľ rozpoznať nezmyselnú alebo podozrivú odpoveď, tu môže byť výsledok na prvý pohľad stále validný, lenže je oveľa nákladnejší a časovo náročnejší. To môže mať za následok zvýšenie účtov v tisícoch eur bez akýchkoľvek zjavne negatívnych prejavov zo strany AI.
Ako sa brániť pred útokom RA-ICA
Ochrana pred takýmto typom útoku si vyžaduje presun v myslení správcov AI systémov. Nielenže je nevyhnutné kontrolovať otázky kladené používateľmi, ale je rovnako dôležité monitorovať a audítovať aj samotné zdroje informácií, ktoré umelá inteligencia využíva. Dôležité je zavádzanie limitov na dĺžku odpovedí a sledovanie nákladov pri generovaní tokenov. Ľudia by mali byť opatrní pri použití otvorených webových zdrojov pre firemných AI asistentov, pretože tieto môžu byť náchylné na manipuláciu.
Záver: Zabezpečte svoju inteligenciu
Kybernetická bezpečnosť je kriticky dôležitá, a to nie iba pre jednotlivcov, ale aj pre firmy a inštitúcie, ktoré sa spoliehajú na umelú inteligenciu. Je potrebné udržiavať si prehľad o aktuálnych hrozbách a implementovať vhodné obranné mechanizmy. Viac informácií a podrobný prehľad o tejto problematike nájdete v najnovších správach o kyberbezpečnosti.
