Koniec lúšteniu lekárskych správ? ChatGPT ich vysvetlí. Týka sa to aj Slovákov?
Nová funkcia ChatGPT Health od OpenAI má ambíciu zmeniť spôsob, akým ľudia pristupujú k svojmu zdraviu a lekárskym informáciám. Pomocou tohto rozhrania by mali mať používatelia možnosť lepšie porozumieť svojim zdravotným údajom, získať poradenstvo pred návštevou lekára a prispieť k zlepšeniu duševného zdravia. Avšak táto novinka zatiaľ nie je dostupná na Slovensku, ale už teraz vyvoláva množstvo otázok.
Faktom je, že zdravie patrí medzi najčastejšie diskutované témy, ktoré všetci s AI rozoberajú, pričom OpenAI uvádza, že viac ako 230 miliónov ľudí sa týždenne pýta na zdravotné otázky. Nová funkcia Go ChatGPT Health sľubuje, že odpovede nebudú len všeobecné, ale prispôsobené potrebám jednotlivých používateľov. Otázky, ktoré však vznikajú, sú vážne a mnohé z nich sa týkajú rizík, ktoré sú s AI v oblasti zdravotnej starostlivosti spojené.
Už v minulosti sa totiž ukázalo, že umelá inteligencia diskriminuje ženy a etnické menšiny, navádza ľudí na nebezpečné rozhodnutia alebo predkladajú nepresné informácie. Nová služba ChatGPT Health predstavuje centralizované rozhranie, ktoré ma spája roztrúsené dáta z rôznych zdrojov: elektronických záznamov, wellness aplikácií a papierových lekárskych správ.
Pacienti môžu nahrávať svoje testy a výsledky lekárskych vyšetrení, čo by im malo umožniť mať všetky dôležité informácie na jednom mieste. Taktiež umožňuje konzultácie ohľadom jedálnička založeného na lekárskych správach alebo pripravovaní na vyšetrenie pomocou zrozumiteľných vysvetlení. Očakáva sa, že s touto funkcionalitou prídu aj praktické výhody, no otázka súkromia a bezpečnosti údajov ostáva na čele definovaných obáv.
OpenAI vytvorilo osobitné prostredie pre ChatGPT Health, kde sú naše konverzácie a nahraté dokumenty oddelené od bežného chatu. Na druhej strane existuje riziko, že AI si môže „požičať“ relevantné kontexty z iných konverzácií, čo môže narušiť úroveň súkromia. OpenAI uvádza, že dáta sa nemajú využiť na trénovanie rozpoznávacích modelov a užívatelia majú plnú kontrolu nad poskytovanými údajmi, pričom je odporúčané nastaviť viacstupňové overovanie.
Avšak je dôležité mať na pamäti, že táto služba nie je určená na diagnostiku a liečbu, ale skôr na podporu. Model bol vyvinutý v spolupráci s odborníkmi, ale recenzent Rob Eleveld z Transparency Coalition varuje, že AI môže byť nepresná. Hlavným problémom je historická zaujatost, ktorú AI preberá z predchádzajúcich medicínskych dát.
Systémové predsudky sa obnovujú a v praxi to môže viesť k tomu, že ženy a etnické menšiny zažívajú rozlišné odporúčania v porovnaní s bielymi mužmi, ak sú v rovnakej situácii. Výskumy naznačujú, že AI môže znížiť empatiu pri interakcii s minoritami alebo podceňovať závažnosť symptómov, ak pacient neoslovuje formalitami.
Dôležitým aspektom zůstává otázka dostupnosti ChatGPT Health na Slovensku, keďže služba sa momentálne testuje v USA, a niektoré potrebné integrácie pre fungovanie služby slovenským užívateľom chýbajú. Otázky ohľadom regulácie a dodržiavania súkromia stanovujú významné prekážky pre rozšírenie tejto funkcie mimo USA.
Aj keď OpenAI sľubuje pokrokové a bezpečné nástroje, realita ukazuje, že hranica medzi pomocou a rizikom je veľmi tenká. Kritické hlasy naznačujú, že generatívne AI môže skresliť realitu, a užívateľ by si mal byť vedomý toho, že hovorí so štatistickým modelom, nie s objektívnym lekárom.
