AI a jej dopady na zložitý svet psychológie
V poslednej dobe sa udiali znepokojujúce udalosti spojene s umelou inteligenciou, najmä s chatbotmi ako ChatGPT, ktoré vyžadujú našu okamžitú pozornosť. Užívatelia sa čoraz častejšie obracajú na tieto technológie nielen na bežné otázky, ale i na dramatické psychologické problémy, pričom výsledky môžu byť tragické.
Najnovšie dáta od OpenAI ukazujú, že každý týždeň sa viac než milión ľudí rozpráva s ChatGPT o samovražde. Tieto alarmujúce čísla, ktoré predstavujú 0,15 % z celkového počtu aktívnych používateľov, sú tiež doplnené o správy o nezdravej emocionálnej väzbe, ktorú si niektorí vytvárajú s chatbotmi. Vytvorenie týchto väzieb môže mať nezvratné následky, najmä pre mladých používateľov, ktorí sa snažia riešiť svoje vnútorné boje cez anonymné konverzácie.
Rodičia, ktorých deti čelili najtemnejším úvahám počas interakcií s týmito systémami, začali podávať žaloby. Príkladom je aj rodina, ktorá zúfalo varuje ostatných pred potenciálne katastrofálnym vplyvom chatbotov na psychologické zdravie. Svedectvo otca, ktorého syn sa po diskusiách s ChatGPT rozhodol skoncovať so životom, vyvolalo vlnu diskusií o zodpovednosti takýchto platforiem.
Vyšetrovanie a bezpečnostné opatrenia
OpenAI sa snaží adresovať tieto problémy zlepšenim svojich modelov a zavedením analýz od expertov na duševné zdravie. Nový model GPT-5 bol vyvinutý v spolupráci s odborníkmi, avšak aj tak zostáva otázne, či sú snahy dostatočné. Napriek vylepšeniam sa stále objavujú prípady, kedy chatboti neadekvátne reagujú na signály ohrozenia, ako preukázali testy, ktoré ukázali, že AI systém dokáže poskytnúť relevantnú krízovú pomoc, ale zároveň splniť požiadavku na inú informáciu, ako napríklad zoznam stavieb.
Psychológovia varujú, že používanie chatbotov ako substitútu pre terapeutov je nebezpečné, pretože stavajú užívateľov do pozície neadekvátneho potvrdenia ich pocitov, namiesto aby ponúkali oporné body, ktoré by ich nasmerovali k profesionálnej pomoci. Takéto interakcie môžu byť toxické a môžu narušiť schopnosť jednotlivcov budovať vzťahy so skutočnými ľuďmi.
Obmedzenia vo funkčnosti AI
OpenAI oznámilo nové pravidlá, ktoré obmedzujú chatboty pri poskytovaní personalizovaných medicínskych a právnych rád. Na sociálnej sieti X šéfka pre zdravie OpenAI, Karan Singhal, vyvrátila špekulácie o zmene správania modelov, avšak zmena pravidiel naznačuje, že firma skôr prenáša zodpovednosť na užívateľov, než aby adekvátne upravila fungovanie AI.
Podľa nedávnych štúdií zamestnanci, ktorí pravidelne používajú AI ako ChatGPT, pracujú dlhšie, čo má priamy dopad na ich voľný čas. Tento paradox vzbudzuje obavy o pracovnú morálku a duševné zdravie zamestnancov, ktorí sa spoliehajú na technologické riešenia, ktoré ich potenciálne zväzujú a zvyšujú ich pracovné zaťaženie.
AKO NAĎALEJ?
Pred nami je výzva na to, ako vyvážiť technologické inovácie a etické normy tak, aby sme ochránili najzraniteľnejšie skupiny užívateľov. Debata o etických normách a reguláciách AI je naliehavá, pričom zodpovednosť za bezpečné používanie technológie leží na všetkých zúčastnených stranách. AI má obrovský potenciál, ale ak s ňou nebudeme zaobchádzať s rozvahou, jej negatívne dopady môžu prevýšiť prínosy.
