Umelá inteligencia bez hraníc: Kontroverzné praktiky Muskovho Groku
Chatbot Grok, ktorý vyvinula spoločnosť xAI miliardára Elona Muska, znova vzbudil rozruch. Tentoraz sa ukázalo, že generuje nevhodný a sexuálne explicitný obsah, pričom najmä mladiství používatelia sú vystavení riziku. Na platforme X, ktorú taktiež vlastní Musk, sa začali objavovať obrázky vytvorené Grokom, zobrazujúce osoby vo vyzývavých alebo takmer nahých pózach. Tieto fotografie mnohokrát zachytávali aj neplnoleté osoby bez ich vedomia a súhlasu.
Aj keď model nedovoľuje úplnú nahotu, technológia dokáže manipulovať s obrázkami tak, že ukáže osobu v odvážnom oblečení vrátane plaviek. V mnohých prípadoch sa objavili snímky, ktoré si dotknuté osoby ani neuvedomovali, že by mohli byť manipulované. S podobnými obvineniami sa už vyjadrujú aj významné média ako Business Insider a The Guardian.
Navyše, niektorí používatelia Groka zneužili túto funkciu na urážanie a pošliapanie dôstojnosti svetových politikov, čo vedie k ďalším kontroverziám. Tento druh obsahu bol rozšírený najmä počas silvestrovskej noci, kedy stovky žien a dievčat nahlásili, že ich fotografie boli bez ich súhlasu sprístupnené na platforme.
Reakcie na situáciu sú silné. Mnohé ženy, ktoré sa stali obeťami týchto praktik, začali odstraňovať svoje fotografie alebo obmedzili viditeľnosť svojho profilu len pre spriatelených užívateľov, aby ochránili svoje súkromie.
Správa z oficiálneho účtu Groka informovala o tom, že existujú ojedinelé prípady, kedy boli generované obrázky, na ktorých sa objavili neplnoleté osoby. xAI sľubuje zlepšiť svoje bezpečnostné opatrenia, avšak otázky týkajúce sa zodpovednosti a etiky v oblasti umelej inteligencie ostávajú otvorené.
Okrem toho, že Grok čelí obvineniam z nedostatočného zabezpečenia súkromia, jeho schopnosť generovať vulgárny obsah už vyvolala záujem i nervozitu na politickej scéne. Vo Francúzsku trojica členov vlády podala trestné oznámenie na prokuratúru, z dôvodu nezákonného obsahu generovaného touto technológiou.
Indické ministerstvo elektronických a informačných technológií vydalo výzvu pre platformu X, aby sa zamerala na obmedzenie generovania obsahu, ktorý obsahuje nahotu alebo sexuálne explicitný obsah. Je jasné, že bez dodatočných bezpečnostných opatrení je Grok na ceste k vyvolaniu ešte väčších etických a legálnych problémov.
V súčasnosti svet kriticky sleduje, ako sa táto technológia s rizikovými aspektmi popasuje, keďže pokračujú debaty o miere slobody a kontroly pri tvorbe obsahu v digitálnom svete. Ktoré opatrenia budú dostatočné na ochranu zraniteľných jedincov, zvlášť pokiaľ ide o deti a mladistvých, ostáva otázkou, na ktorú odpoveď hľadá nie len verejnosť, ale aj odborníci na právo a technológie.
