Vláda zakázala čínskou umělou inteligenci v české státní správě

O zákazu využívání produktů DeepSeek v české státní správě rozhodla na svém včerejším [9.7.] zasedání vláda Petra Fialy [ODS]. Učinila tak na doporučení Národního úřadu pro kybernetickou a informační bezpečnost [NÚKIB].

DeepSeek je čínská společnost zabývající se umělou inteligencí [AI]. Mimo dalších produktů vyvíjí open-source velké jazykové modely. Společnost financuje čínský hedge fond High-Flyer. Obě společnosti, DeepSeek a High-Flyer, sídlí v Chang-čou v provincii Če-ťiang. Hlavní osobou firmy je Liang Wenfeng.

DeepSeek na sebe upozornil na začátku letošního roku, když oznámil vývoj pokročilých AI modelů s výrazně nižšími náklady, než jaké má americká konkurence. A to včetně nákladů na spotřebu energie. Na čínskou AI prudce reagovaly burzy, konkurence i politici. Americký prezident Donald Trump dokonce uvedl, že spuštění čínského chatbotu R1 od DeepSeek by mělo být budíčkem pro firmy v USA. Reagoval i šéf konkurenční americké společnosti OpenAI Sam Altman.

„Chatbot R1 je více než působivý. A to hlavně díky tomu, co nabízí, a hlavně za jakou cenu,“ řekl, ale také dodal: „My samozřejmě dodáme daleko lepší modely.“

I si zaspekuloval, že čínská firma využila pro vývoj svého chatbotu její technologie a data. Nástup čínského chatbotu ale neotřásl jenom americkými technologickými firmami, ale i hodnotou jejich akcií. Technologický index Nasdaq Composite v reakci na něj bezprostředně oslabil více než o tři procenta. Akcie amerického výrobce grafických karet pro AI, společnosti Nvidia [Nvidia se stala celosvětově první firmou s akciemi na burze, jejíž tržní hodnota dosáhla 4 bilionů dolarů, cca 84,2 bilionu Kč, pozn. red.], po nástupu DeepSeeku dokonce propadly o 17 procent.

„Pokud by se čínské systémy ukázaly jako dlouhodobě udržitelné, mohlo by to znamenat zásadní posun ve vnímání nákladů na vývoj AI a otevřít diskuzi o efektivnějším využití výpočetních zdrojů,“ okomentovali situaci analytici společnosti Amundi, která nedávno otevřela tematický podílový fond, jenž se zaměřuje na investice do AI.

https://www.fintag.cz/2024/11/27/benjamin-lucas-dalsi-hospodarsky-rust-podpori-ai-nebude-to-ale-hned/

Na nástup čínského chatbotu DeepSeek reagovaly ale i další subjekty. Například izraelsko-americká společnost Wiz Research, která se zaměřuje na kybernetickou bezpečnost, brzy oznámila, že DeepSeek ponechal bez zabezpečení citlivá data uživatelů na internetu.

„Wiz Research identifikoval veřejně přístupnou databázi ClickHouse patřící DeepSeeku. Ta umožňuje plnou kontrolu nad databázovými operacemi, včetně možnosti přístupu k interním datům,“ upozornila tehdy kyberbezpečnostní společnost.

Zjištění firmy zahrnovalo více než milion řádků nechráněných protokolových toků, které obsahují historii chatu, tajné klíče a další citlivé informace.

„Náš tým okamžitě a zodpovědně problém oznámil společnosti DeepSeek, která problém okamžitě vyřešila,“ dodala firma.

Tato slova potvrdil samotný DeepSeek, když uvedl, že po upozornění data neprodleně zabezpečil. Avšak pozdě. Chatbot R1 mezitím odstranily v některých zemích ze své nabídky firmy Apple a Google. To se stalo například v Itálii, kde se o čínský chatbot začaly zajímat tamější regulační úřady.

Na DeepSeek se zaměřil i irský úřad pro ochranu soukromí. To kvůli obavám ze způsobu, jakým jeho chatbot zpracovává údaje irských občanů. Úřad to vysvětlil tím, že má vážné obavy z možného porušování právních předpisů Evropské unie. Přičemž je to právě irský úřad pro ochranu osobních údajů, který je hlavním regulačním orgánem pro technologické firmy v EU. To proto, že mnohé z nich mají v Irsku svou evropskou základnu.

„DeepSeek je čínská společnost, která v letošním roce vydala svůj velký jazykový model R1. Jelikož se jedná o čínskou společnost, dopadají na ni veškeré povinnosti spojené s legislativou Čínské lidové republiky,“ uvedl včera po jednání vlády premiér Petr Fiala [ODS].

To podle něj zahrnuje i povinnost společnosti kdykoli poskytnout součinnost orgánům čínského státu, pokud si ji vyžádají.

„Což může vést k přístupu státního aparátu k datům uchovávaným na serverech v Čínské lidové republice,“ vysvětlil rizikovost používání těchto produktů český premiér.

Aplikace podle něj vykazují i další bezpečnostní rizika, například nedostatečné zabezpečení přenosu a sběru dat. I proto vláda schválila, aby české úřady a instituce v rámci české státní správy vůbec nepoužívaly produkty, aplikace, řešení, webové stránky a webové služby poskytované čínskou společností DeepSeek.

Co se týče modelů AI, za pozornost stojí aktuální zveřejnění nové verze chatbota Grok 4 americké společnosti xAI miliardáře Elona Muska. Podle firmy nová verze nabízí vylepšenou schopnost hlasové komunikace. Grok je dostupný uživatelům sítě X. Podle dřívější zprávy Bloombergu společnost na vývoji AI modelů prodělává asi miliardu dolarů měsíčně.

Navíc se ukazuje, že nefungují vždy tak, jak by si mnozí představovali. Včera [9.7.] vyvolal chatbot Grok bouři nevole poté, co na sociální síti X zveřejnil sérii antisemitských příspěvků. V jednom z již smazaných výroků se Grok označil za „MechaHitlera“ a označil Adolfa Hitlera za ideálního vůdce k řešení „proti-bílé nenávisti“. Dále nesprávně obvinil uživatelku jménem „Cindy Steinberg“, že slaví smrt dětí v texaském letním táboře, a to pouze na základě jejího příjmení.

V dalších komentářích chatbot opakoval antisemitské stereotypy. Například, že Židé ovládají Hollywood a použil výrazy jako „zrzavá děvka“. Tyto výroky následovaly krátce po oznámení Elona Muska, že Grok projde změnami ke snížení „politické korektnosti“.

Muskova xAI reagovala rychle. Smazala problematické příspěvky, omezila schopnosti Groku publikovat texty na síti X a oznámila zavedení nových filtrů proti nenávistnému obsahu.

Organizace Liga proti hanobení [ADL] incident označila za „nezodpovědný, nebezpečný a antisemitský“. Varovala, že šíření extremistického obsahu pomocí AI představuje vážnou společenskou hrozbu. Turecko následně zakázalo provozování Groku na svém území a Polsko plánuje nahlásit xAI Evropské komisi kvůli porušení nových digitálních pravidel týkajících se nenávistných projevů. V obou zemích došlo k zákazu technologie. Ta totiž urážela tamější politiky.

–DNA–