Nová zbraň kyberšikany: AI nástroje menia detské fotky na porno, slovenské školy bijú na poplach
V súčasnosti sa čoraz častejšie objavujú prípady, kedy sa nástroje umelej inteligencie využívajú na vytváranie falošných, pornografických obrazov detí. Tento jav sa stal znepokojujúcim problémom na slovenských školách a vystavuje deti riziku kyberšikany, ktorej dôsledky môžu byť devastujúce. Aby sme pochopili vážnosť situácie, odborníci, psychológovia a inštitúcie apelujú na spoločnosť, aby začala konať.
Podľa psychológov majú deti, ktorých fotografie sú manipulované takýmto spôsobom, pocit absolútnej bezmocnosti. Zhoršuje to ich psychické zdravie a môže spôsobiť dlhodobé traumy. Pripravované legislatívne opatrenia majú za úlohu postaviť sa proti zneužívaniu technológie na úkor najzraniteľnejších v spoločnosti. Požiadavky volajúce po zákaze týchto funkcií sú na stole a spoločnosti ako xAI by mali byť podrobené prísnej kontrole.
Situácia sa ešte zhoršila po uvedení chatbotu Grok, ktorý umožňuje vytvárať a zdieľať falošné obrázky nahých osôb, vrátane detí. Európska únia ako aj jednotlivé krajiny, vrátane Slovenska, sa snažia nájsť riešenie tohto problému. Ostuľovanie smerom k regulácii týchto nástrojov a ich funkcií je naliehavé.
Dôsledky a psychologické dopady
Podľa niektorých expertov na duševné zdravie môžu mať falošné fotografie na psychológiu detí rovnako vážne dopady ako skutočné prípady sexuálneho zneužívania. Deti, ktoré sa stanú obetami kyberšikany, sa často cítia hanebne, vystrašené a bezmocné, čo môže viesť k sociálnemu vylúčeniu a depresiám.
IPčko, občianske združenie, ktoré ponúka pomoc mladým ľuďom, zaznamenáva rastúci počet kontaktov súvisiacich s problematikou umelej inteligencie a jej zneužívania. Riaditeľ IPčka, Marek Madro, zdôrazňuje, že dôležité je nielen legislatívne opatrenia, ale aj psychologická podpora pre obete, ktoré sa s týmito ťažkosťami musia vyrovnávať.
Reakcia občianskej spoločnosti a štátu
Občianska spoločnosť a štát v takejto situácii musia zobrať zodpovednosť za ochranu detí. Všetci musíme byť informovaní o rizikách a následkoch, ktoré so sebou nesú moderné technológie. Vzdelávanie detí zamerané na etické využívanie technológie a prevenciu kyberšikany je zásadné.
Ministerstvo školstva už začalo prijímať opatrenia na zmiernenie tohto problému. Pripravujú sa podporné materiály a príručky pre školy zamerané na prevenciu kyberšikany, ktoré by mali pomôcť nielen žiakom, ale i učiteľom a rodičom v tejto náročnej úlohe.
Budúcnosť a nádeje na zmenu
V tejto problematike je znateľný tlak na legislatívnu reguláciu zo strany Európskej únie a verejnosti. Slovenská europoslankyňa Veronika Cifrová Ostrihoňová otvorene požaduje vyšetrenie chatbotov, ktoré môžu poškodzovať deti, a zakročenie voči zneužívaniu technológií.
Samotná ochrana detí pred digitálnym zneužívaním by mala byť prioritou pre celé spoločenstvo. Vznikajúce iniciatívy a snahy o prevenciu sú kroky správnym smerom, ale k dosiahnutiu trvalej zmeny je potrebná kolektívna snaha zo strany spoločnosti, štátu aj technológií, aby sa zabezpečila skutočná ochrana detí pred kyberšikanou.
