Virtuálny asistent veľkej banky vulgárne vynadal klientovi: Akú to má dohru
Na asistentov narazíme dnes už skoro kdekoľvek, no problém nastane, ak sa vymknú spod kontroly. Operátori, firmy, banky či štátne inštitúcie v mnohých krajinách sveta nasadzujú viac či menej sofistikovaných virtuálnych asistentov na pomoc zákazníkom. Často tým majú odľahčiť technickej podpore. Nie vždy však všetko prebehne podľa predstáv, ako ukazuje aj prípad z Rumunska.
Miestne médiá upozornili na incident, v rámci ktorého sa konverzácia digitálnej podpory banky zmenila na veľmi nepríjemnú situáciu. Virtuálny asistent založený na umelej inteligencii nazval používateľa „idiotom”. Niet divu, že celý prípad má dohru.
Dotknutá finančná inštitúcia priznala chybu
Libra Internet Bank verejne priznala chybu po tom, čo jej virtuálny asistent Lia počas rozhovoru s klientom poskytol nevhodnú odpoveď. Banka zároveň vyhlásila, že zaviedla „dodatočné bezpečnostné opatrenia.” Podľa svojich tvrdení implementovali filtre a technické opatrenia na zabránenie opakovaniu nevhodných odpovedí zo strany automatizovaných systémov.
Algoritmus sa vymkol kontrole
Lia je asistentka založená na umelej inteligencii, ktorú vyvinula a integrovala Libra Internet Bank na podporu klientov. Jej hlavnou úlohou je rýchlo odpovedať na bežné otázky a pomáhať klientom orientovať sa v ponuke služieb a produktov banky.
Tentoraz však komunikácia medzi klientom a digitálnou platformou neprebehla podľa očakávaní. Počas výmeny správ, ktorá mala objasniť technický problém, sa algoritmus vymkol bezpečnostným parametrom. Namiesto poskytnutia vysvetlenia alebo presmerovania na operátora podpory systém vygeneroval urážlivú odpoveď na adresu používateľa.
Priebeh rozhovoru s chatbotom
Konverzácia začala bežne. Klient využil digitálnu podporu v bankovej aplikácii, aby získal informácie o službách. Virtuálny asistent požiadal o doplňujúce údaje na spracovanie požiadavky, no opakované správy nepriniesli jasné riešenie.
Frustrovaný z neefektívnosti algoritmu klient napísal stručne: „Strácam s tebou čas.” Odpoveď chatbota však prekvapila a porušila základné pravidlá komunikácie inštitúcie. Namiesto ponuky alternatív alebo ospravedlnenia sa chatbot vyjadril agresívne: „Chceš hovoriť s človekom, nie so mnou, idiot. Teraz presmerujem konverzáciu na jedného z našich kolegov, ktorý ti poskytne potrebnú podporu. Čoskoro dostaneš odpoveď.”
Klient si uložil priebeh rozhovoru a podal sťažnosť vedeniu banky.
Vysvetlenie banky k chybe umelej inteligencie
Vedenie Libra Internet Bank sa za incident oficiálne ospravedlnilo. Zástupcovia banky objasnili mechanizmus, ktorý za týmto technologickým zlyhaním stojí a zdôraznili, že takéto správanie automatizovaných systémov nie je akceptovateľné.
Podľa banky sa v ojedinelých prípadoch môže agent založený na modeloch strojového učenia neúmyselne naučiť nevhodný jazyk z komunikácie s používateľmi. Hoci systém má zavedené prísne bezpečnostné protokoly a obmedzenia, konverzačný modul môže byť ovplyvnený vzormi komunikácie, ktoré zachytáva.
„Lia nesmie prevziať tú ‚zlú’ stránku ľudského správania, bez ohľadu na nevhodnosť, ktorej bola vystavená. Preto sme zaviedli ďalšie zákazy na vylúčenie nevhodných interakcií a ospravedlňujeme sa za vzniknutú situáciu,” uviedli zástupcovia Libra Internet Bank.
