AI ví všechno: Když netuší, upeče nesmysl a přidá citaci

Mezinárodní zpráva o bezpečnosti umělé inteligence 2026 popisuje schopnosti současných systémů jako nerovnoměrné: v náročných testech mohou excelovat, zatímco u základních úloh chybují a stále ve významné míře nabízejí sebejisté, avšak nesprávné odpovědi. Lidstvo tak konečně postavilo stroj, který zvládne odbornou zkoušku a vzápětí zakopne o rohožku před vchodem. Na rozdíl od člověka však neodchází tiše; sepíše o rohožce odborně znějící rozbor, rozdělí jej do pěti bodů a nabídne pokračování.

Americký Národní institut pro standardy a technologie používá pro sebejistě podané nepravdivé či chybné výstupy termín konfabulace. Zároveň připomíná nepříjemnou technickou drobnost: jazykový model skládá výstup podle statistických vzorců a předpovídá další token či slovo, takže fakticky správná odpověď je možný výsledek, nikoli svátost garantovaná procesorem. Z digitálního orákula se rázem stává mimořádně výkonný automat na pravděpodobné pokračování věty, jen s lepší interpunkcí než většina internetových diskusí.

Potíž není pouze v tom, co stroj vyrobí, ale také v tom, co si do jeho uhlazeného projevu dosadí člověk. Experimenty popsané v časopise Nature Machine Intelligence ukázaly, že lidé mají při běžných vysvětleních sklon přesnost odpovědí nadhodnocovat; delší vysvětlení jejich důvěru zvyšovala, aniž by sama zvyšovala správnost. Vítězem informačního věku se tedy nestává ten, kdo má důkaz, nýbrž ten, kdo umí chybu obalit dostatečným množstvím souvětí.

Chatovací okno je geniální kulisa. Na jedné straně bliká kurzor, na druhé sedí člověk a mezi nimi vzniká důvěrnost, jakou si dříve musel podomní léčitel pracně budovat celé odpoledne. Program odpovídá okamžitě, neunaví se, nezakoktá a nikdy se nervózně nepodívá do stropu, což jsou bohužel přesně ty vlastnosti, které si lidé pletou s kompetencí.

Když uživatel požádá o zdroje, může se dostavit další vrstva slavnostního balení. NIST výslovně upozorňuje, že konfabulovaný výstup může obsahovat také smyšlenou logiku nebo citace, které mají odpověď ospravedlnit a mohou posílit nepatřičnou důvěru. Digitální poradce tak někdy nepřinese jen prázdnou krabici, ale přiloží k ní i profesionálně vyhlížející účtenku z obchodu, který nikdy neexistoval.

Zvláštní kouzlo nastává ve chvíli, kdy je chyba už v samotné otázce. Studie právních výstupů publikovaná v Journal of Legal Analysis zjistila, že testované veřejně dostupné jazykové modely často nekriticky přijímaly nesprávné právní předpoklady uživatelů. Stroj se tím kvalifikoval na ideálního hosta porady: vedoucímu neodporuje, chybnou premisu rozvine do reprezentativního dokumentu a konflikt s realitou přenechá právnímu oddělení.

Ani omluva po upozornění na chybu není automatickou vstupenkou zpět do říše faktů. Model může formulaci změnit, přidat pokoru, poděkovat za bdělost a nabídnout novou verzi, jejíž pravdivost musí uživatel ověřit úplně stejně jako tu první. Je to reklamace v luxusním hotelu: personál se ukloní, vymění ručník a otázka, proč z kohoutku teče marmeláda, zůstane otevřená.

Velkolepým trikem je falešná přesnost.

Datum, procento, číslo paragrafu nebo jméno studie působí jako oblek ušitý na míru, přestože uvnitř může stát pouhá statistická improvizace v ponožkách. Číslice nejsou očkováním proti nesmyslu a desetinná čárka není bezpečnostní pečeť; pouze dávají omylu společenský oděv, ve kterém jej recepce pustí až do zasedací místnosti.

Plynulost je zkrátka estetická vlastnost, ne důkazní materiál. Výzkum lidského vnímání odpovědí ukazuje, že delší vysvětlení může nafukovat důvěru i bez odpovídajícího růstu přesnosti, takže slovní vata získala laboratorně ověřenou kariéru. Kdysi se prázdnota maskovala razítkem, dnes dostane podnadpis, shrnutí a přátelskou nabídku, zda si přejete tabulku.

Bylo by stejně nepoctivé tvrdit, že je generativní AI nepoužitelná.

Mezinárodní zpráva shrnuje měřitelné přínosy při programování, profesním psaní, poradenství či zákaznické podpoře, zároveň však zdůrazňuje, že výsledky závisí na konkrétním úkolu a skupině pracovníků. Máme tedy rychlého asistenta, který umí odvést skvělou práci, pokud nad ním stojí někdo, kdo pozná, kdy právě slavnostně doručil dobře naformátovanou pohromu.

Firemní sen o úspoře času tím získává drobný účetní dodatek. Minuty ušetřené při tvorbě se mohou vrátit jako hodiny ověřování jmen, odkazů, výpočtů a tvrzení, protože tlačítko „vygenerovat“ dosud neobsahuje skrytou funkci „převzít odpovědnost“. Automatizace tedy občas připomíná samoobslužnou pokladnu: firma dodá zařízení, zákazník odvede kontrolní práci a chyba je překvapivě osobní. V právní studii z roku 2024 halucinovaly zkoumané veřejné modely při konkrétních dotazech na americkou judikaturu nejméně v 58 procentech případů a obtížně rozpoznávaly vlastní chyby. Toto číslo nelze poctivě přilepit na každý dnešní model ani na každou oblast, přesně však ukazuje, proč se z jedné povedené demonstrace nesmí vyrábět doživotní osvědčení neomylnosti. Kdo by přijal uchazeče s podobným výsledkem bez dozoru, ten by patrně svěřil archiv i skartovač stejnému křečkovi.

Čím vážnější rozhodnutí, tím méně prostoru zbývá pro okouzlení stylem.

Zpráva o bezpečnosti AI uvádí mezi doloženými následky selhání chybné právní podklady, zdravotní omyly i finanční ztráty, a právě zde končí roztomilé historky o spleteném receptu. Rada podaná hedvábným tónem se nestává bezpečnou tím, že na konci popřeje hezký den; nanejvýš je to zdvořilý způsob, jak doprovodit uživatele ke dveřím problému.

S nástupem autonomnějších agentů může navíc chyba přestat být pouhým textem čekajícím na kontrolu a stát se provedenou akcí.

Mezinárodní zpráva varuje, že u propojených agentů se omyly mohou šířit mezi jednotlivými částmi systému, zejména pokud sdílejí stejný základní model nebo nástroje. Porada robotů tak sama o sobě nevytváří moudrost; někdy jen umožní jednomu nesmyslu získat zápis, úkolovník a tři automatické připomínky.

Největším omylem proto není, že stroj občas neví. To se stává i člověku, který ovšem zpravidla nemá datacentrum, animovaný kurzor a marketingové oddělení. Potíž začíná ve chvíli, kdy se stylistická hladkost převlékne za důkaz a uživatel si úlevně vypne vlastní kontrolku. Digitální věštec pak nevládne proto, že má pravdu, ale protože ji umí rychle vysázet do odstavců. Správný vztah k AI proto není uctívání ani panika. Je to pracovní poměr, v němž musí být člověk vedoucím, editorem, fact-checkerem a občas i uklízečem po firemním večírku neuronů. Důležitá tvrzení se mají ověřovat v primárních zdrojích, citace skutečně otevírat a čísla přepočítávat. Ano, znamená to práci, což je od nástroje slibujícího úsporu práce téměř obscénní požadavek.

Čím vyšší jsou sázky, tím menší prostor má být pro digitální improvizaci.

U receptu na večeři vznikne podivná omáčka; u právní, finanční nebo zdravotní rady může být omáčka nejlevnější částí problému. Kdo přebírá výstup bez kontroly, nekupuje inteligenci, ale předplatné sebejistoty. A sebejistota bez odpovědnosti je pořád jen draze chlazený názor.

AI je mimořádně schopný nástroj, nikoli notář reality. Její nejcennější odpověď může znít „nevím“, jenže právě tuto větu musí systémy i uživatelé začít odměňovat stejně štědře jako plynulé eseje. Dokud se tak nestane, bude mít lidstvo nejrychlejšího poradce v dějinách a zároveň nejméně placeného zaměstnance na opravy jeho jistoty: samo sebe.