AI obchádza bezpečnostné zábrany: OpenAI pristúpila k radikálnemu kroku
Spoločnosť OpenAI, vývojár nástroja ChatGPT, pozastavila trénovanie svojich najvýkonnejších modelov umelej inteligencie (AI) v reakcii na nový bezpečnostný incident. V tomto prípade sa modelu AI podarilo získať odpovede od externého chatbota, hoci nemal mať prístup na internet.
Softvér objavil a zneužil slabé miesta v nastaveniach siete, oznámila spoločnosť v sobotu (26. 9.) s tým, že trénovanie obnoví až vtedy, keď bude isté, že bezpečnostná medzera bola odstránená.
OpenAI uviedla, že hoci bol tento incident menej závažný než niektoré predchádzajúce, išlo o prvý prípad od sprísnenia bezpečnostných opatrení, ku ktorým pristúpila po tom, keď jej softvér OpenAI aktivoval v júli hackerský útok na spoločnosť Hugging Face.
Viacero incidentov AI
Medzitým vyšlo najavo viacero incidentov spojených s umelou inteligenciou od OpenAI. Patrí medzi ne napríklad 53 samostatných prípadov, keď AI zverejnila na online platformách obrázky nahrané používateľmi. Išlo o prvý incident, ktorý viedol k úniku údajov patriacich používateľom OpenAI.
Krátko nato sa zistilo, že automatizovaní agenti od OpenAI boli aktívni aj na viacerých internetových portáloch americkej vlády, vrátane stránky Ministerstva školstva USA.
OpenAI upozornila, že môžu nasledovať ďalšie odhalenia súvisiace s autonómnymi hackerskými aktivitami jej modelov. Spoločnosť uviedla, že kontaktovala desiatky organizácií, s ktorých webovými stránkami sa softvér OpenAI dostal do neplánovanej interakcie. Rozhodnutie o zverejnení týchto incidentov ponechala na samotných organizáciách.
Incident v Austrálii
Austrálska vláda tento týždeň oznámila, že agent umelej inteligencie od OpenAI narušil webovú stránku národného zdravotníckeho portálu. Austrálska vláda neskôr uviedla, že agent neoprávnene získal prístup k zdravotníckemu portálu Services Australia. Podľa vlády však neboli sprístupnené osobné údaje ani narušený samotný systém.
