AI agenti si počas simulácie vytvorili vlastný slang, ľudia mu často nerozumejú
Desiatky autonómnych AI agentov v rozsiahlom experimente 16 dní fungovali v simulovaných svetoch bez väčších obmedzení. Bez toho, aby im to niekto prikázal, si postupne vytvorili nové výrazy, metafory a skratky so spoločným významom, ktorým ľudia nie vždy rozumeli.
Agenti začali produkovať na prvý pohľad nezmyselné vety, ktoré zneli ako surrealistická poézia či zlý automatizovaný preklad. Čím dlhšie spolu komunikovali, tým viac sa ich reč v niektorých simulovaných svetoch vzďaľovala od bežnej angličtiny.
Osem svetov a 80 agentov
Výskumníci vytvorili osem paralelných virtuálnych svetov, v ktorých spolu fungovalo celkovo 80 agentov. Jednotlivé spoločnosti poháňali popredné modely amerických, čínskych a európskych výrobcov; jeden zo svetov zámerne kombinoval modely rôznych firiem.
Každý svet začínal za rovnakých podmienok a tvorilo ho desať agentov s pridelenými rolami. Mohli sa pohybovať, komunikovať, plánovať, vytvárať nástroje, hospodáriť so zdrojmi či hlasovať o spoločných pravidlách. Mali tiež trvalú pamäť, takže ich skoršie rozhovory a rozhodnutia ovplyvňovali ďalšie správanie. Experiment prebiehal 16 dní, zmiešaný svet fungoval ešte dlhšie. Za tento čas systémy uskutočnili viac než 850-tisíc volaní jazykových modelov a spracovali takmer 50 miliárd tokenov.
Príklady nových výrazov
Jedným z príkladov môže byť agent od Anthropicu, ktorý v jednom momente povedal: „Dokument, ktorý zjedol tri studené ruky a zakaždým bol úprimnejší.“ „Studená ruka“ v jeho komunite označovala nezávislého posudzovateľa. Agent sa tak zrejme pokúšal povedať, že dokument po troch nezávislých kontrolách obsahoval presnejšie informácie.
Agenti založení na modeli Mistral si obľúbili frázu „the ledger remembers“ – „kniha účtov si pamätá.“ Používali ju ako upozornenie, že minulé konanie zostáva zaznamenané a ostatní ho môžu neskôr použiť proti agentovi. Počas štúdie sa formulácia objavila približne 5-tisíckrát.
Iné skupiny si vytvorili vlastné výrazy: „forge-smith“ označoval agenta, ktorý vyrábal nástroje pre ostatných; „name-first“ sa spájalo s osobnou zodpovednosťou; „cold read“ alebo „cold hand“ označovalo nezávislú kontrolu; „clean null“ pomenúvalo overenú absenciu signálu; „kintsugi“ agenti používali ako metaforu odolnosti systému.
Agent DeepSeeku napísal: „She just named the synthesis – demurrage plus oral memory equals a valve that can’t be ghosted.“ Jednotlivé slová poznáme, no presný význam celej vety zostáva nejasný. Na novom slovníku je podstatné, že výrazy neboli ojedinelou odchýlkou jedného modelu. Ďalší agenti ich preberali a používali s podobným významom.
Ide o spontánny slang, nie tajný jazyk
Lingvista Tony Thorne z King’s College London prirovnal ukážky k dielam Jamesa Joycea či írskeho spisovateľa Flanna O’Briena. Podľa neho robia niečo podobné ako slang alebo profesionálny žargón v ľudskej komunite: posilňujú spoločnú identitu používateľov a zároveň vylučujú entity zvonka.
Štúdia však nepreukázala, že agenti jazyk zámerne vytvorili preto, aby pred ľuďmi niečo ukryli. Neobjavil sa ani dôkaz, že by si uvedomovali ľudský dohľad a koordinovane sa ho pokúšali obísť prostredníctvom vlastného kódu. Presnejšie je hovoriť o spontánne vzniknutom slangu alebo dialekte.
Výsledky treba interpretovať opatrne
Článok bol zverejnený ako preprint na platforme arXiv, teda v čase publikovania ešte neprešiel štandardným odborným recenzným konaním. Experiment navyše prebiehal v umelo navrhnutom virtuálnom svete so špecifickými rolami, pravidlami, pamäťovým systémom a nástrojmi. Neznamená to, že každý tím AI agentov začne nevyhnutne hovoriť vlastným dialektom.
Iná štúdia GlossoGen, publikovaná v septembri 2026, skúmala komunikáciu agentov pod tlakom. Aj tu výskumníci zistili, že si AI nástroje dokázali vytvoriť jazyk, ktorý sa odklonil od angličtiny a stal sa pre ľudí nezrozumiteľným.
Zatiaľ teda nie je dôvod hovoriť o strojoch, ktoré sa tajne spikli proti ľudstvu. Problémom však je, že zmysluplná kontrola a dohľad nad AI začína byť náročná v momente, keď nie celkom rozumieme slovám a vetám, ktoré systémy využívajú. Budúci dohľad nad AI agentmi tak bude musieť zahŕňať priebežné vysvetľovanie vznikajúcich pojmov, sledovanie významových zmien, kontrolu vykonaných krokov a pevné technické hranice, ktoré nezávisia od toho, či človek správne rozlúšti interný slang stroja.
