Článek
Lidstvo se možná dočká převratného vynálezu. Stroje, který bude schopný vyrábět přesvědčivé lži rychleji než politici během předvolební kampaně.
Jak upozornil technologický magazín Chip, kolem vývoje obecné umělé inteligence, označované zkratkou AGI, se střetávají velkolepé sliby s varováním před masovým šířením dezinformací. Zatímco jedni očekávají technologického spasitele, druzí se obávají informační katastrofy. Lidstvo tak stojí před zásadní otázkou: Dokáže vytvořit nadlidskou inteligenci, aniž by při tom definitivně přišlo o vlastní rozum?
Digitální spasitel má skvělou reklamu
Ještě nedávno nám technologičtí vizionáři představovali autonomní automobily, které měly vyřešit naše starosti s řízením.
Nyní nabízejí něco podstatně ambicióznějšího. Obecnou umělou inteligenci, která by v budoucnu mohla léčit nemoci, řešit klimatickou krizi, objevovat nové vědecké poznatky a posunout civilizaci ke hvězdám.
Chybí už jen záruka, že po návratu z kolonizované galaxie také vynese odpadky. Na takovou drobnost se totiž při prezentacích technologických zázraků často zapomíná.
Každá doba má své proroky. Opravdu?!
Ve středověku slibovali věčný ráj, dnes stačí prezentace v PowerPointu, několik miliard od investorů a dostatečně sebevědomý ředitel technologické společnosti. Místo svatozáře září logo startupu a zázraky se plánují podle termínů dalších investičních kol. Případný neúspěch se dá elegantně označit za přechodnou fázi vývoje. Náboženství alespoň požadovalo víru. Moderní technologický průmysl k ní dokázal přidat měsíční předplatné.
Jenže za lesklou fasádou digitálního ráje se rýsuje podstatně méně romantická budoucnost. Obecná umělá inteligence zatím není jednoznačně dosaženým technologickým milníkem a odborníci se přou, kdy a zda vůbec vznikne. To ovšem nijak nebrání tomu, aby se o jejích schopnostech hovořilo s jistotou člověka, který už má hotovou objednávku. Všechno ještě nemusí fungovat, hlavně když funguje marketing.
Velkovýroba lží nepotřebuje lidskou směnu
Mnohem bezprostřednější problém představují možnosti dnešní generativní umělé inteligence.
Podle International AI Safety Report 2026 jsou falešné fotografie, videa a hlasové nahrávky stále přesvědčivější. Výzkumníci současně upozorňují, že rozsah skutečného ovlivňování veřejnosti těmito prostředky zatím není dostatečně prokázán. Jinými slovy, technologii k výrobě manipulativního obsahu už máme. Teprve zjišťujeme, jaké škody s ní dokážeme napáchat.
Pro konspirační průmysl jde přesto o mimořádně slibnou perspektivu. Dříve musel šiřitel nesmyslů vymyslet příběh, napsat článek, obstarat fotografii a najít publikum. Dnes mu s velkou částí práce pomohou dostupné digitální nástroje. Z osamělého autora pochybných teorií se tak může stát ředitel vlastní propagandistické továrny. Nebude potřebovat redaktory, kameramany ani grafiky. Zato získá dostatek obsahu, aby zásoboval internet až do příštího zatmění Slunce.
Že nejde pouze o fantazii milovníků katastrofických scénářů, naznačuje také odborná analýza International Panel on the Information Environment. Ta na základě výzkumných studií upozorňuje, že zavádějící texty vytvořené generativní AI mohou být obzvlášť přesvědčivé. Není tedy nutné vyrobit falešné video prezidenta, který oznamuje přistání mimozemšťanů. Někdy úplně postačí sebevědomě napsaný nesmysl, doplněný několika odborně znějícími větami. Pokud navíc odpovídá čtenářovu přesvědčení, má téměř vyhráno. Největší ironie přitom spočívá v lidské důvěřivosti. Někteří lidé odmítají věřit lékařům, vědcům či ověřeným informacím, ale bez větších pochybností přijmou tvrzení anonymního internetového účtu. Jakmile je opatřeno působivým obrázkem, získává skoro posvátnou autoritu. Kritické myšlení se v takovém prostředí mění v nepohodlnou činnost. Vyžaduje totiž čas, trpělivost a občas také odvahu připustit, že jsme naletěli.
Nadšení z technologického spasitele má ještě jednu drobnou vadu. Hladomory, války, ekonomické krize ani klimatické změny nezmizí pouhou aktualizací softwaru. Jejich řešení vyžaduje spolupráci, odpovědnost a často i nepopulární rozhodnutí. Mnohem příjemnější je však čekat na digitálního mesiáše, který všechno zařídí bez našeho přičinění. Ideálně přes noc, zdarma a bez nutnosti číst smluvní podmínky.
Budoucnost umělé inteligence proto nemusí být soubojem člověka s neposlušným strojem. Může se z ní stát mnohem obyčejnější tragikomedie, v níž dokonale vyspělá technologie narazí na lidskou ochotu věřit prvnímu nesmyslu, který se objeví na displeji.
Samotná AI totiž nemusí mít žádné zločinné úmysly. Úplně postačí, když ji k manipulaci využije někdo, kdo je má.
A právě zde se dostáváme k nejnepříjemnějšímu závěru. Lidstvo investuje obrovské prostředky do vývoje inteligence, která má jednou překonat člověka. Přitom stále nedokázalo přesvědčit dostatek lidí, aby si před sdílením senzační zprávy ověřili její pravdivost.
Možná se tedy nemusíme nejvíc obávat chvíle, kdy budou stroje chytřejší než my. Skutečná katastrofa nastane, pokud jim svěříme rozhodování o pravdě jen proto, abychom sami nemuseli přemýšlet. Pak už ani nebude potřeba, aby nám umělá inteligence lhala. O zbytek se ochotně postaráme sami.

