Článek
OpenAI dodá AI do klasifikovaného prostředí
Společnost OpenAI potvrdila, že uzavřela dohodu s americkým ministerstvem obrany o využití svých modelů umělé inteligence v takzvaném klasifikovaném režimu. Jinými slovy, technologie budou nasazeny v prostředí, kde se pracuje s utajovanými informacemi. Firma současně zdůraznila, že její systémy nemají být využívány k masovému dohledu nad občany ani k autonomnímu řízení zbraní bez lidské kontroly.
Podle vyjádření vedení mají být nástroje provozovány přes zabezpečenou cloudovou infrastrukturu a jejich chod má zůstat pod dohledem prověřeného personálu. OpenAI tvrdí, že dohoda obsahuje konkrétní omezení, která mají zabránit zneužití technologií pro vysoce riziková rozhodnutí nebo systémy připomínající sociální kredit.
Zveřejněné části kontraktu ale ukazují, že zákaz se vztahuje především na nezákonné použití. Pokud by určité nasazení bylo v souladu s americkým právem a interními pravidly ministerstva, smlouva ho podle kritiků výslovně nevylučuje. Dokument hovoří o možnosti využití pro všechny zákonné účely po schválení a testování. Právě tato formulace vyvolala obavy části odborné veřejnosti.
AI v armádě
Stín minulosti a otázka důvěry
Oznámení přišlo v době, kdy administrativa prezidenta Donalda Trumpa ukončila spolupráci s konkurenční firmou Anthropic. Její šéf Dario Amodei uvedl, že společnost odmítla upravit své podmínky tak, aby umožňovaly odstranění ochran proti masovému dohledu nebo plně autonomním zbraňovým systémům. Podle něj vývoj AI postupuje rychleji než legislativa a některé scénáře mohou ohrozit demokratické principy.
Generální ředitel OpenAI Sam Altman se snažil situaci uklidnit veřejnou diskusí na síti X. Připustil, že dohoda vznikla rychle a může působit problematicky. Současně ale zdůraznil, že vztah mezi státem a firmami vyvíjejícími pokročilou umělou inteligenci bude zásadní. Podle něj by nebylo správné, aby hranice určovala jen soukromá společnost bez demokratické kontroly.
Skeptici však připomínají rok 2013 a odhalení Edwarda Snowdena o rozsáhlém sledování komunikace americkou Národní bezpečnostní agenturou. I když se jednalo o jinou instituci a jiný kontext, důvěra veřejnosti v otázkách dohledu zůstává citlivá. V digitální éře se navíc možnosti analýzy dat násobně rozšířily.
Reakce se odrazila i na trhu. Část uživatelů oznámila zrušení předplatného ChatGPT a někteří přešli ke konkurenci. Aplikace Claude od společnosti Anthropic se krátce po oznámení vyšvihla na přední příčky amerického App Storu mezi bezplatnými aplikacemi.
Dohoda mezi OpenAI a ministerstvem obrany tak přesahuje rámec jedné firmy. Otevírá širší debatu o tom, jakou roli mají technologické společnosti hrát v oblasti národní bezpečnosti a kde končí inovace a začíná odpovědnost. Umělá inteligence už dnes zasahuje do oblastí, kde se protínají bezpečnost, právo a základní důvěra občanů ve stát. Právě tam se bude rozhodovat, jak pevné mantinely společnost nastaví.