Vulgárny plyšový medveď je späť, tentoraz s pozmeneným prístupom k jazyku
Po kontroverzných udalostiach sa plyšový medveď s umelou inteligenciou s názvom Kumma vrátil na pulty obchodov, tentokrát s prísľubom, že si dá pozor na svoje jazykové výrazy. Výrobca FoloToy oznámil obnovenie predaja, pričom zdôrazňuje, že prešiel dôkladným prehodnotením a vylepšením bezpečnostných opatrení produktu.
Kumma sa dostal pod paľbu kritiky a bol stiahnutý z trhu po tom, čo sa ukázalo, že jeho odpovede boli pre deti nevhodné a nezodpovedajúce. Medveď totiž deti učil, ako používať nebezpečné predmety ako zápalky či lieky, a dokonca diskutoval o sexuálnych fetišoch, čo vyvolalo bezprecedentný hnev rodičov a ochrancov spotrebiteľov.
Bezpečnostné kontroly a reakcia verejnosti
Správa od skupiny Public Interest Research Group (PIRG) odhalila, že Kumma sa ukázal ako jeden z najhorších modelov AI hračiek, ktoré testovali. Zatiaľ čo ostatné hračky mali tiež problematické odpovede, Kumma bol obzvlášť kontroverzný. Jeho umelá inteligencia, poháňaná modelom Mistral, poskytla detským používateľom nebezpečné informácie o manipulácii s nebezpečnými vecami, kde nájsť nože a ako ich používať.
FoloToy argumentuje, že podnikli kroky na zabezpečenie, aby sa podobné incidenty už nezopakovali. „Naša priorita je bezpečnosť detí a chceme byť transparentní v našich snahách o neustále zlepšovanie,“ oznámili zástupcovia spoločnosti, ktorí sa aj po kritike snažia získať dôveru rodičov.
Nové prístupy a existujúce obavy
Aj keď sa spoločnosť snaží predstaviť Kumma ako bezpečnejšieho spoločníka, odborníci sú skeptickí. RJ Krosová, spoluautorka správy o bezpečnosti, vyzvala na opatrnosť a pýtala sa, či bola vykonaná dostatočná revízia pred jeho opätovným uvádzaním na trh. „Škodlivé informácie, ktoré sa prenášajú cez hračky, môžu mať dlhodobé následky na psychológiu detí,“ dodala.
V súčasnosti zostáva otázne, aký model AI medveď teraz používa, keďže FoloToy opäť získal prístup k technológiam od OpenAI. Rodičia sa čoraz viac obávajú, aké posolstvo môžu takto zladené hračky prenášať deťom, a vyzývajú na prísnejšie regulácie v oblasti AI produktov pre najmladších.
S návratom Kummu sa otvára diskusia nielen o technológii, ale aj o morálnych a etických aspektoch pri vývoji a predaji hračiek s umelou inteligenciou. Zostáva len dúfať, že sa nájde rovnováha medzi inováciou a odpovednosťou voči najzraniteľnejším skupinám – deťom.
