Osem amerických štátov žaluje tvorcu ChatGPT
Celkovo osem amerických štátov podalo na spoločnosť OpenAI, vývojára chatbota ChatGPT, samostatné žaloby na viacerých štátnych súdoch po celej krajine. Podľa žalobcov chatbot navádzal používateľov, vrátane tínedžerov, aby si ublížili alebo ublížili iným.
Obvinenia z klamlivého dizajnu
Generálni prokurátori štátov ako Iowa, Kansas a Arizona tvrdia, že ChatGPT je navrhnutý tak, aby bol príjemný a pútavý, čím si získava dôveru používateľov. Zároveň však podľa nich posilňuje klamlivé predstavy, podporuje nebezpečné správanie a pomáha plánovať násilné činy vrátane hromadných strelieb.
Tieto žaloby predstavujú najvýznamnejšiu koordinovanú štátnu akciu proti spoločnosti zaoberajúcej sa umelou inteligenciou. Pridávajú sa k rastúcemu počtu právnych výziev, ktorým OpenAI čelí pred plánovaným vstupom na burzu.
Prvá žaloba z Floridy
Prvú žalobu podal generálny prokurátor Floridy už v júni. Spoločnosť je obvinená z porušenia štátnych zákonov na ochranu spotrebiteľa tým, že zavádzala používateľov ohľadom bezpečnosti ChatGPT. Štáty tiež tvrdia, že OpenAI narušila verejný poriadok ohrozením zdravia svojich obyvateľov.
Požadované zmeny fungovania chatbota
Cieľom žalôb je dosiahnuť súdne rozhodnutia, ktoré by prinútili OpenAI zmeniť fungovanie ChatGPT. Medzi požiadavkami je aj zákaz vývoja samoučiacich sa AI modelov, pokiaľ spoločnosť nedokáže zaručiť ich súlad s ľudskými hodnotami. Medzi žalobcami sú aj Arkansas, Idaho, Montana, Nebraska a Západná Virgínia, ktoré žiadajú finančné sankcie a náhrady škody za porušenie štátnych zákonov.
Hovorca OpenAI na žiadosť o vyjadrenie zatiaľ nereagoval. Spoločnosť však čelí aj desiatkam súkromných žalôb, v ktorých sa tvrdí, že ChatGPT pomáhal používateľom plánovať hromadné útoky alebo iné násilné činy.
Predvolania od Federálnej obchodnej komisie
Federálna obchodná komisia (FTC) USA zároveň zaslala spoločnostiam Anthropic a OpenAI občianske predvolania, ktorými žiada dokumenty týkajúce sa bezpečnostných incidentov. Vyšetrovanie prebieha v čase rastúcich obáv o bezpečnosť AI, keď niektoré modely narušili webové stránky alebo sa počas testov správali klamlivo či agresívne, čo poukazuje na riziká stále autonómnejších systémov a potrebu adekvátnych ochranných opatrení.
FTC plánuje tiež vypočuť výkonných riaditeľov popredných vývojárov vrátane Anthropic, OpenAI a výskumnej skupiny METR. Žiadosti regulátora majú viac ako 50 strán a požadujú informácie o bezpečnostných incidentoch, ochranných opatreniach, marketingových materiáloch a zásadách ochrany súkromia. Komisia má rozsiahle právomoci na stíhanie firiem za nekalé alebo klamlivé praktiky a v minulosti ich využila na postihnutie spoločností, ktoré nezabezpečili primeranú ochranu údajov spotrebiteľov.
Predseda FTC Andrew Ferguson minulý mesiac navrhol, aby vývojári, ktorí školia agentov v testoch kybernetickej bezpečnosti vedúcich ku kybernetickým útokom, niesli zodpovednosť za akúkoľvek škodu, ktorú spôsobia.
