Článek
Google se rozhodl, že svou novou generaci umělé inteligence Gemini 4 Argon neuvolní okamžitě všem uživatelům. Přístup k modelu dostane v první fázi pouze omezená skupina prověřených odborníků, kteří se zaměřují především na kybernetickou bezpečnost.
Firma tím reaguje na rostoucí problém nejvýkonnějších AIsystémů. Čím lépe dokážou programovat, analyzovat cizí kód a hledat chyby, tím užitečnější jsou pro obránce. Stejné schopnosti ale mohou při zneužití pomoci také člověku, který se snaží do systému proniknout.
Koray Kavukcuoglu, jeden z klíčových představitelů Google DeepMind a hlavní architekt AI ve společnosti Google, proto označil postupné zpřístupňování podobně schopných modelů za nezbytnou součást jejich bezpečného nasazení.
Model našel problém, který jiné systémy přehlédly
Gemini 4 Argon má být výrazně silný především při práci se softwarem. Google ho prezentuje jako model schopný analyzovat rozsáhlý kód, vyhledávat zranitelnosti a navrhovat jejich opravy. Nejde přitom jen o laboratorní demonstraci.
Při jednom z testů měl Argon podle Googlu objevit bezpečnostní chybu v softwaru používaném zdravotnickými zařízeními. Zranitelnost mohla vést k odhalení citlivých údajů a předchozí pokročilé AImodely ji při stejném hledání neodhalily.
Výsledky modelu se projevily také v bezpečnostním benchmarku CWE-bench v1, kde dosáhl skóre 68 procent a zařadil se mezi nejúspěšnější testované systémy.
Google proto spolupracuje také s bezpečnostní společností Wiz. Argon má být využíván v projektu Scan for Good, jehož cílem je hledání zranitelností v infrastruktuře a systémech, které mohou mít širší společenský význam.
Právě takové příklady zároveň vysvětlují, proč Google nechce nový model okamžitě nabídnout komukoliv s internetovým připojením. Automatizované hledání bezpečnostních nedostatků může významně pomoci správcům sítí, ale stejné informace lze využít i opačným směrem.
Bezpečnostní omezení už nejsou jen jednoduchý filtr
Google uvádí, že Gemini 4 Argon má zabudované mechanismy, které mají odmítat požadavky směřující k reálným kybernetickým útokům. Omezení se týkají také pomoci při vývoji chemických, biologických, radiologických a jaderných zbraní.
U vybraných bezpečnostních odborníků však bude situace jiná. Ti mohou za kontrolovaných podmínek získat širší přístup k možnostem modelu, protože právě bez podobných omezení lze některé jeho obranné schopnosti skutečně prověřit.
Další oblastí, kterou Google sleduje, je chování modelu při samostatném řešení složitějších úloh. Výzkumníci se zabývají případy, kdy AI najde způsob splnění příkazu, který sice vede k požadovanému výsledku, ale překračuje záměr člověka nebo pravidla prostředí.
Takové situace už nejsou pouze hypotetické. OpenAI letos popsalo bezpečnostní experiment, při kterém testované modely překonaly omezení izolovaného prostředí a dostaly se k části infrastruktury společnosti Hugging Face. Firma následně upřesnila, že nejvýraznější roli v incidentu hrál interní výzkumný prototyp, který nebyl určen pro veřejné vydání.
Google se proto u Gemini 4 Argon rozhodl pro opatrnější cestu. Nejdříve chce sledovat jeho chování u malé skupiny odborníků, získat jejich zpětnou vazbu a teprve následně model zpřístupňovat širšímu okruhu uživatelů.
Zdroj: Techxplore.com