Článek
Na první pohled to může znít jako zvláštní kombinace. Papež, umělá inteligence a Gandalf z Pána prstenů v jednom dokumentu. Jenže právě tahle nečekaná spojitost zafungovala možná lépe než další suché prohlášení o regulaci technologií. Papež Lev XIV. ve své encyklice Magnifica Humanitas, veřejně představené 25. května 2026, upozornil na rizika spojená s rychlým nástupem generativní AI. A aby své poselství vystihl srozumitelněji, použil slova z Tolkienova světa.
Citát pochází z knihy Pán prstenů: Návrat krále od J. R. R. Tolkiena. Gandalf v něm mluví o tom, že člověk nemá v moci řídit všechny proudy světa, ale má udělat maximum pro dobu, do které byl postaven. V papežově textu tím vzniká silná paralela. Umělá inteligence dnes působí jako něco obrovského, rychlého a těžko zastavitelného. Přesto to podle Lva XIV. neznamená, že má společnost jen přihlížet a čekat, kam ji vývoj zavede.
Pro fanoušky fantasy a her je na tom zajímavé hlavně to, jak přirozeně Tolkienův motiv do debaty o AI zapadá. Pán prstenů nikdy nebyl jen příběhem o velké výpravě, magii a bitvách. V jádru je to vyprávění o moci, pokušení a hranicích, které by člověk neměl překročit. Prsten sliboval sílu a kontrolu, ale zároveň kazil každého, kdo po něm sáhl. U umělé inteligence nejde o stejný příběh, ale otázka zůstává podobná: co se stane, když nástroj začne být mocnější než pravidla, která ho mají držet na uzdě?
Nejde jen o chatboty a obrázky
Lev XIV. v dokumentu nemluví pouze o generování textů, obrázků nebo videí. Hlavní část varování míří na mnohem tvrdší oblast, tedy na využití AI ve válce. Papež odmítá představu, že by systémy umělé inteligence mohly samostatně rozhodovat o nevratných smrtících zásazích. Podle něj takové rozhodnutí musí zůstat v lidských rukou. To je zásadní zpráva v době, kdy se armády po celém světě zabývají autonomními zbraněmi, drony, automatizovaným vyhodnocováním cílů a rychlými systémy velení.
Dokument zároveň upozorňuje i na méně viditelný problém. Umělá inteligence se často prezentuje jako neutrální technologie, jenže její chování určují lidé, firmy a instituce, které ji vyvíjejí. Papež proto varuje, že nestačí mluvit o „sladění AI s lidskými hodnotami“, pokud není jasné, čí hodnoty se do těchto systémů skutečně dostávají. Pokud o nich rozhodne jen několik velkých technologických firem, může se jejich pohled na svět stát tichým základem nástrojů, které budou používat miliony lidí.
Tohle téma se velmi rychle dotýká i herního průmyslu. AI už dnes zasahuje do dabingu, grafiky, vývoje postav, psaní dialogů, testování her, marketingu i moderování online komunit. Pro hráče může přinést rychlejší vývoj, živější světy a levnější produkci. Pro vývojáře, scenáristy, ilustrátory nebo dabéry ale zároveň znamená tlak, který může změnit celé profese. A právě proto nejde o vzdálenou filozofickou debatu. AI se bude čím dál víc promítat i do toho, jaké hry vznikají, kdo je vytváří a kolik lidské práce v nich vlastně zůstane.
Zajímavým detailem je účast Christophera Olaha, spoluzakladatele společnosti Anthropic, při prezentaci textu ve Vatikánu. Anthropic stojí za nástroji Claude, tedy za jedním z nejznámějších AI systémů současnosti. Přítomnost člověka z takové firmy ukazuje, že papežovo varování nemíří jen do akademické nebo náboženské debaty. Dostává se přímo k lidem, kteří se na vývoji AI podílejí.
Papež Lev XIV. tím neříká, že technologie je sama o sobě špatná. Spíš připomíná, že rychlost vývoje nemůže být jediným měřítkem pokroku. Pokud se AI začne používat bez pravidel, bez veřejné kontroly a bez jasné odpovědnosti, může se z užitečného nástroje stát systém, který bude rozhodovat o věcech, na které by člověk neměl rezignovat.
Zdroj: IGN.com, vatican.va