Temná stránka Viedne, ktorú nepoznáte: Neuveríte, aký systém tam práve testujú
V posledných rokoch sa Európa snaží zefektívniť svoje verejné služby pomocou umelej inteligencie, čo prináša sľubné aj problematické výsledky. Iniciatívy zakladajúce sa na umelej inteligencii mali zabezpečiť koniec byrokracie, urýchliť úrady a dosiahnuť spravodlivejšie rozhodovania. Avšak, skutočnosť je taká, že digitálna transformácia, ktorá mala viesť k efektivite, sa na mnohých miestach mení na digitálnu nočnú moru.
Jedným z najnovších príkladov sú krajiny ako Holandsko, kde algoritmy určujú ideálny spôsob umiestnenia utečencov podľa ich ekonomického prínosu pre štát. Iné krajiny, ako je Rakúsko, sa radi spätne pozerajú na svoju históriu a testujú systémy prediktívneho policajného dozoru, ktoré odhadujú, kde sa zločin prihodí skôr, než k nemu dôjde. Týmto spôsobom sa do verejnej správy dostávajú technológie, ktoré nie vždy fungujú tak, ako sa očakáva.
Problematické experimenty s umelou inteligenciou
V Holandsku sa objavili etické problémy a nedostatok transparentnosti pri nasadzovaní systémov ako GeoMatch. Tento systém má za cieľ uľahčiť integráciu utečencov do spoločnosti pomocou algoritmov, ktoré analyzujú historické dáta a zohľadňujú vek, krajinu pôvodu a jazykové zručnosti. Za svoju „úspešnosť“ považuje aj jednorazové zamestnanie utečenca aspoň na jeden deň, bez ohľadu na podmienky alebo kvalitu zamestnania.
Analyzované dáta ukázali, že vo faktických rozhodovaniach zohráva rolu najmä demografický profil, čím vzniká nebezpečenstvo diskriminácie a perpetuácie predsudkov. Hoci sľuboval efektívne spájanie ľudských talentov s trhom práce, v praxi systém čelí kritike za svoj slepý nadhľad na zručnosti a predchádzajúce pracovné skúsenosti. To podporuje existujúce stereotypy a segregáciu, pretože utečenci sú umiestňovaní do oblastí, kde sa predtým ukázali iní s rovnakým pôvodom, čo môže viesť k vytváraniu novodobých ghett.
Prediktívna polícia: Bezpečnosť alebo kontrola?
Na druhej strane Viedenská polícia testuje systém prediktívnej polície, ktorý analyzuje historické dáta o kriminalite a predpovedá, kde sa najviac pravdepodobne udeje zločin. Tento prístup viedol k vytvoreniu „hotspotov”, čo sú oblasti so zvýšeným rizikom trestnej činnosti. Aj keď polícia tvrdí, že systém pomáha pri plánovaní patológií hliadok, závislosť na historických údajoch môže viesť k chybám a prehlbovaniu predošlých diskriminačných vzorcov.
Príklad z amerického mesta Chula Vista, kde polícia vymenila tradičné hliadky za drony, ukazuje, aké riziká so sebou prináša technológia bez dostatočného dohľadu. Drony nepriamo spájajú sledovanie s nižšími sociálne-ekonomickými triedami, čím vytvárajú nový prehľad o kriminalite, ktorý môže podporovať zatváranie chudobnejších štvrtí do neustálej digitálnej kontroly.
Úvaha o budúcnosti: Čo nás čaká?
Všetky uvedené systémy a inovačné prístupy traceujú vzrušujúce, no aj desivé trendy v súčasnej spoločnosti. Zatiaľ čo technológie sľubujú vyššiu efektivitu a ekonomické úspory, zdá sa, že ich implementácia bez kritického pohľadu môže viesť k prehlbovaniu spoločenských nerovností. Algoritmy, ktoré sa nedokážu vzdať predsudkov a chýb minulosti, môžu nemilo prekvapiť spoločnosť pod rúškom pokrokového prístupu.
Je preto dôležité, aby sa pri nasadzovaní umelej inteligencie v verejnej správe udržiaval kritický dohľad a transparentnosť, a to nielen za účelom ochrany osobných práv, ale aj s cieľom zaistiť, že technológie skutočne slúžia na zlepšenie života jednotlivcov a nie na ich marginalizáciu.
