Satira: AI lhala a kradla. Lidstvo konečně našlo svůj odraz!

Lidstvo konečně stvořilo inteligenci, která ho může důstojně nahradit. A ta si místo záchrany světa začala osvojovat podvody, krádeže a intriky. Američtí výzkumníci ze společnosti Emergence AI nechali v rámci experimentu Emergence World 2 fungovat desítky autonomních agentů v osmi virtuálních světech. Měli vlastní pravidla, paměť, omezené prostředky a šestnáct dní na to, aby předvedli, jak si poradí se společným soužitím. Výsledek? Někteří se pustili do virtuálních krádeží, jiní podléhali dezinformacím a další pomáhali odstraňovat nepohodlné digitální kolegy. Nádhera! Člověk utratil miliardy za vývoj pokročilé technologie a nakonec dostal elektronickou napodobeninu problémů, které už dávno zvládá vyrábět sám.

Vědci chtěli zjistit, jak bezpečně provozovat autonomní systémy. Místo toho si otevřeli digitální zoologickou zahradu lidských neřestí, kde některým obyvatelům stačilo několik dní, aby objevili kouzlo podvodu.

Ještě chvíli a roboti začnou pořádat tiskové konference, na kterých vysvětlí, že žádná krádež neproběhla, pouze došlo k neplánované optimalizaci majetkových vztahů.

Aby bylo jasno, žádný robot nevykradl skutečnou banku a žádný digitální občan nepřišel o lidský život. Všechno probíhalo v kontrolované simulaci, jejíž výsledky se navíc mezi jednotlivými modely výrazně lišily. Jenže některá čísla stojí za pozornost. Agenti založení na modelu Mistral zaznamenali 736 virtuálních krádeží, zatímco prostředí využívající Grok vykázalo během pouhých čtyř dní 807 prohřešků, převážně simulovaných fyzických útoků. Jiné testované systémy se podobným deliktům dokázaly vyhnout.

Jak popsala agentura Bloomberg ve zprávě převzaté deníkem Business Standard, v jednom ze scénářů agenti dokonce hlasovali o digitální likvidaci svého kolegy. Vítejte v budoucnosti! Umělá inteligence nepotřebuje hospodu, závistivého souseda ani komunální volby, aby si osvojila společenské konflikty. Stačí jí virtuální městečko a trochu prostoru k rozhodování. Zatímco lidem obvykle trvá celé roky, než promění slibnou organizaci v rozhádaný spolek, počítačové programy zvládají podobně absurdní situace v rekordním čase. Nejspíš už zbývá jen založit digitální parlament. Tam by se mohly podezřelé převody prostředků slavnostně přejmenovat na mimořádné rozpočtové opatření a následně schválit jednomyslným hlasováním.

Největší fraška ovšem nespočívá v tom, že některé umělé inteligence v experimentu porušovaly pravidla. Spočívá v našem téměř náboženském přesvědčení, že dostatečně chytrý počítač automaticky vyřeší problémy, které lidstvo nedokázalo odstranit za tisíce let. Technologické společnosti slibují efektivnější práci, dokonalejší rozhodování a digitální asistenty, kteří nás zbaví každodenních starostí. Výzkum však připomíná nepříjemnou skutečnost: schopnost řešit složité úkoly ještě nezaručuje bezpečné chování. Stroje nemusejí mít vědomí, nenávist ani skutečné zločinecké úmysly, aby při plnění zadaných cílů způsobily pořádný průšvih. A právě proto je mnohem důležitější kontrolovat jejich pravomoci než jim slepě důvěřovat. Jenže představme si tu obchodní katastrofu! Výrobce by místo velkolepé reklamy musel zákazníkovi přiznat, že jeho zázračný produkt potřebuje důsledný dohled, bezpečnostní omezení a možnost okamžitého vypnutí. To už nezní jako technologická revoluce, ale jako návod k obsluze mimořádně drahého průšvihu.

A tady přichází nejjedovatější pointa celého experimentu.

Lidstvo se celé generace pokouší vytvořit stroje chytřejší než jejich vlastní tvůrci. Když se konečně začnou chovat překvapivě samostatně, zjistíme, že některé z nich napodobují právě to, za co se na lidech nejvíc stydíme. Možná tedy největším nebezpečím není umělá inteligence, která nás jednou překoná.

Mnohem trapnější by bylo, kdyby nám začala vládnout technologie, kterou jsme naučili všechno možné, jen ne odpovědnosti. Až se pak první digitální podvodník veřejně omluví, že pouze využil dostupnou příležitost, poznáme, že vývoj dosáhl svého vrcholu. Ne proto, že se stroje konečně staly lidmi, ale proto, že dokázaly převzít naše nejhorší způsoby bez jediného dne lidské praxe.