Vojenská AI už není teorie. Nová data ukazují, kam míří britská obrana

Umělá inteligence se už dávno netýká jen vyhledávačů, kancelářských nástrojů, chatbotů nebo chytrých aplikací v telefonu. Stále výrazněji proniká i tam, kde může mít její použití nejtvrdší následky. Do armády. Nová zpráva organizace Drone Wars UK ukazuje, že britské ministerstvo obrany pracuje na celé řadě programů, které mají AI zapojit do vojenského rozhodování, zpravodajství, kybernetické obrany i bojových operací.

Nejde přitom o jednu vzdálenou technologii, která možná někdy dorazí na bojiště. Zveřejněný přehled mluví o 26 programech, které se v různé fázi rozvoje zabývají využitím umělé inteligence pro armádu. Některé mají pomáhat s vyhodnocováním dat, jiné s výběrem cílů, podporou budoucích bojových letounů, obranou proti dronům nebo se zpravodajskými analýzami. Společným jmenovatelem je snaha zrychlit rozhodování a získat převahu v prostředí, kde rozhodují sekundy, množství dat a schopnost je správně přečíst.

Právě tady se ale otevírá jedna z nejdůležitějších debat současné obranné politiky. Když se válka začne opírat o algoritmy, databáze a automatizované systémy, nestačí se ptát jen na to, zda technologie funguje. Stejně důležité je vědět, kdo ji vyvíjí, kdo ji kontroluje, jak se ověřuje její přesnost a kde přesně končí doporučení stroje a začíná odpovědnost člověka.

První briefing ze série Killing by Code se věnuje společnosti Palantir. Ta patří mezi nejznámější a zároveň nejdiskutovanější firmy v oblasti datové analytiky. Od svého vzniku se pohybuje blízko bezpečnostních složek, zpravodajských služeb a armádních zakázek. Její software má pomáhat propojovat rozsáhlé soubory dat a hledat v nich souvislosti, které by člověk ručně odhaloval pomalu nebo vůbec.

To zní na první pohled jako čistě technická služba. Jenže v armádním prostředí dostává podobný software úplně jiný význam. Data mohou rozhodovat o tom, co je považováno za hrozbu, kam se zaměří pozornost velitelů, jak se plánuje operace nebo který cíl získá prioritu. Pokud takové systémy dodává soukromá firma, přirozeně vzniká otázka, jak velký vliv získává nad státní bezpečnostní infrastrukturou.

Palantir se v Británii prezentuje jako významný partner pro práci s daty, umělou inteligencí a bezpečnou integrací informací. Britské instituce v něm vidí nástroj, který může posílit obranyschopnost a urychlit modernizaci armády. Kritici však upozorňují, že právě takové firmy mohou postupně získávat postavení, které veřejnost jen těžko kontroluje. Nejde totiž jen o software. Jde o znalost systému, přístup k datovým strukturám a schopnost určovat, jak bude armáda s informacemi pracovat.

Válka se tím posouvá z klasického bojiště do datového prostoru. Síla armády už neleží pouze v počtu vojáků, letadel nebo dělostřeleckých systémů. Stále víc záleží na tom, kdo má lepší data, rychlejší analýzu a přesnější software. Jenže čím větší váhu dostane algoritmus, tím silnější musí být i kontrola nad tím, jak k výsledku došel.

Seznam, který Drone Wars UK zveřejnila, naznačuje, že využití AI v britské obraně není okrajový experiment. Týká se armády, námořnictva, letectva i zpravodajských struktur. Mezi zmiňovanými programy je například Project Asgard, který má pomáhat s AI podporovanými schopnostmi britské armády. Další projekty se zaměřují na námořní operace, budoucí bojová letadla, autonomní spolupracující platformy nebo práci obranného zpravodajství.

Zvláštní pozornost budí také programy, u kterých ministerstvo obrany odmítlo poskytnout podrobnosti. Podle Drone Wars UK jde například o projekty Deep Thought, Omnia a Organon. Není překvapivé, že část vojenského vývoje zůstává neveřejná. U umělé inteligence to ale zvyšuje napětí mezi bezpečností státu a právem veřejnosti vědět, jaké technologie se vyvíjejí jménem obrany.

AImůže být pro armádu velmi lákavá. Dokáže zpracovávat snímky, sledovat pohyb objektů, vyhodnocovat komunikaci, spojovat informace z různých zdrojů nebo upozorňovat na vzorce, které by v běžném provozu zanikly. V teorii tak může pomoci chránit vojáky, zpřesnit rozhodování a snížit riziko chybných zásahů.

Jenže každá taková výhoda má i druhou stranu. Systém je jen tak dobrý, jak kvalitní jsou jeho data, jak dobře byl otestován a jak rozumně ho lidé používají. Pokud se do rozhodování dostane špatný vstup, algoritmus ho může zpracovat velmi rychle, ale pořád špatně. Rychlost sama o sobě není zárukou správnosti.

Debata o vojenské umělé inteligenci se často zužuje na představu autonomní zbraně, která sama najde cíl a sama zaútočí. To je samozřejmě zásadní téma. Jenže mnohem blíž realitě může být jiný scénář: člověk formálně zůstane u rozhodnutí, ale bude se stále víc spoléhat na výstup systému. Na obrazovce uvidí doporučení, vyhodnocení rizika, pravděpodobnost hrozby nebo seznam priorit. A v prostředí, kde je tlak na rychlost obrovský, může být velmi těžké se algoritmu vzepřít.

Právě zde vzniká prostor pro rozmělnění odpovědnosti. Velitel může tvrdit, že jednal podle dostupných informací. Operátor může říct, že pouze potvrdil doporučení systému. Dodavatel softwaru může dodat, že jeho nástroj jen podporoval lidské rozhodování. A výsledkem může být situace, kdy se po chybě velmi složitě hledá jasný viník.

To neznamená, že armády mají umělou inteligenci ignorovat. Takový přístup by byl naivní. Moderní konflikty ukazují, že drony, senzory, satelitní data, elektronický boj a software už patří k základní výbavě bojiště. Státy, které v této oblasti zaostanou, mohou ztratit schopnost účinně reagovat na rychle se měnící hrozby.

Skutečná otázka proto nezní, zda AI v armádě bude. Ona tam už je a její význam poroste. Otázka zní, jak pevně bude svázaná pravidly, kontrolou a lidskou odpovědností. Nestačí opakovat, že člověk zůstane v rozhodovacím procesu. Důležité je, zda bude mít čas, znalosti a pravomoc rozhodnutí systému skutečně přezkoumat.

Zpráva Drone Wars UK tak působí jako varování před světem, kde se válka stává stále více datovou operací. Bojiště budoucnosti nemusí vypadat jako čistě autonomní sci-fi konflikt. Může být mnohem nenápadnější. Na jedné straně vojáci, velitelé a operátoři. Na druhé straně platformy, datové modely, dodavatelé a algoritmy, které budou určovat, co je vidět, co je důležité a co se stane cílem.

A právě proto je potřeba o vojenské AI mluvit dřív, než se z ní stane samozřejmost. Technologie, která má pomáhat chránit, totiž může velmi rychle začít rozhodovat způsobem, kterému už lidé nebudou doopravdy rozumět.

Zdroj: DroneWars.net, Drone Wars UK, britské ministerstvo obrany, Hansard UK Parliament, Defence Committee britského parlamentu, SIPRI, Gov.uk., svetdronu.com