Kto nesie zodpovednosť za smrteľné následky umelej inteligencie?
Už dlho sa svetu otvára otázka: Kto je skutočne zodpovedný, keď umelá inteligencia spôsobí smrteľný incident? Tieto komplikované dilemy sú súčasťou diskusií slovenských odborníkov, ako je Daniela Vacek, ktorá sa nedávno stala laureátkou ESET Science Award 2025. Vacek sa vo svojej práci zameriava na etické aspekty umelej inteligencie a výzvy, ktoré s nimi súvisia.
Umelá inteligencia preniká do našich životov ako nikdy predtým, od autonómnych vozidiel po generovanie kreatívnych obsahu. Až dosiaľ sa reflektovalo predovšetkým na pozitívne efekty, no stíhajú nás aj čoraz závažnejšie otázky. Ak umelá inteligencia zlyhá a spôsobí tragédiu, existujú normatívne rámce, ktoré by mali túto situáciu riešiť?
Etika a zodpovednosť v kontexte AI
Etické dilemy ohľadom zodpovednosti naplno prichádzajú na povrch. Pri nehodách spôsobených ľuďmi existuje jasný právny rámec, ktorý určuje, kto je vinný. Avšak keď nastane úraz zapríčinený AI, zákonné predpisy sú nedostatočné. V zdôrazňovaných prípadoch, kde umelá inteligencia v jednaniach zasahuje, sú naše hodnoty, normy a zodpovednosť nejednoznačné a otvorené interpretácii.
Diskriminácia a nejasnosti výstupov AI
Nezabúdajme, že umelá inteligencia môže reprodukovať a navodzovať predsudky, ak je trénovaná na diskriminačných údajoch. Týmto sa stáva pojem „garbage in, garbage out“ skutočne presným v kontexte AI. Zoskupenie nevhodných dát vedie k nevhodným výstupom, a tak sa otvára diskusia o nevyhnutnosti regulácie kvality dát. Čo však robiť s výsledkami, ktoré sú už rozšírené v praxi? Je morálne postaviť zodpovednosť na pleciach používateľa, výrobcu, alebo samého systému?
Právna a etická regulácia umelých systémov
Otázky etického aj právneho rámca presahujú jednoduché prípady a prichádzajú s myšlienkami o kolektívnej zodpovednosti. Systémy umelej inteligencie, ktoré budú vykonávať úlohy tradične prislúchajúce ľuďom, vyžadujú redefinovanie normatívnych praktík. Ako budú na povel reagovať opravdové znaky zodpovednosti, keď sa za vrcholový úspech považuje kolektivizmus a nie individuálne zásluhy? Ak sú výstupy umelých inteligencií ocenené, kto je naozaj zaslúžilý?
Budúcnosť umelých systémov s morálnymi normami
Veľa odborníkov predpovedá, že nastal čas klásť dôraz na moralizáciu systémov umelej inteligencie. Rôzne ústavy a spoločnosti sa vo svojich reguláciách zaoberajú týmto aspektom. Je táto snaha realistická v kontexte rastúceho dopytu po efektívnych technológiách? Ak sa naznačuje, že bude morálna AI vyžadovať väčšie obmedzenia, bude na trhu existovať dopyt po „nemorálnych“ systémoch?
Úloha povedomia v AI a jej zodpovednosť
Otázka prítomnosti vedomia v systémoch AI ostáva kontroverzná. Ak umelá inteligencia nevníma a nemá poznanie, je jej potrestanie alebo súdenie neuskutočniteľné? Kde definuje etika hodnoty, ak nie na základe subjektívneho porozumenia?” Pochopenie toho, ako sa technológie rozvíjajú a aké normalizované prax by mali prevládať je kľúčové pre budúcnosť AI.
Záverom… kam smerujeme?
Society stojí pred naliehavou potrebou zadefinovať zodpovednosť za umelú inteligenciu vo všetkých jej formách. Kto je v konečnom dôsledku ochotný prevziať zodpovednosť, ak stroj zlyhá? Na tieto otázky musíme hľadať odpovede nielen na úrovni regulácií, ale aj spoločenskej etiky a morálky.
