Článek
Umělá inteligence měla firmám a úřadům především pomáhat. Jenže stejnou technologii dostávají do rukou také útočníci. Jižní Korea teď řeší, co se stane, když klasická kybernetická obrana narazí na nástroje schopné automaticky hledat slabá místa systémů.
Prezident Lee Jae-myung proto na zasedání vlády 6. října požadoval změnu dosavadního přístupu ke kybernetické bezpečnosti. Reagoval na sérii útoků proti finančním společnostem, při kterých unikly údaje zákazníků a podle dosavadních zjištění mohly být využity nástroje založené na umělé inteligenci.
Nejde přitom pouze o obecné varování. Mezi napadenými společnostmi byly například Shinhan Bank, KB Kookmin Bank nebo Hana Bank. Jen v případě Shinhan Bank se únik týkal přibližně 25 tisíc zákazníků. Mezi odcizenými informacemi měla být jména, telefonní čísla a údaje o ročních příjmech.
Korejský finanční dohled následně identifikoval 28 IP adres ve 12 zemích, které měly být s útoky spojeny. Samotná IP adresa samozřejmě neříká, odkud útočník skutečně pochází. Dobře ale ukazuje, jak obtížné podobné útoky vyšetřovat.
Čekat na útok už podle prezidenta nestačí
Lee Jae-myung upozornil na problém, který bude s rozvojem AI stále důležitější. Klasický model zabezpečení často funguje tak, že firma útok zaznamená, vyšetří ho, opraví zranitelnost a následně posílí ochranu. Jenže automatizované nástroje mohou hledání slabin výrazně zrychlit.
Prezident proto požaduje systémy schopné útok rozpoznat a zablokovat ještě předtím, než způsobí škodu. Součástí má být také rychlejší vývoj umělé inteligence specializované přímo na kybernetickou bezpečnost.
Jde v podstatě o souboj automatizace s automatizací. AI na jedné straně může procházet infrastrukturu, hledat zranitelnosti nebo pomáhat s přípravou útoku. Na druhé straně může nepřetržitě analyzovat provoz, hledat podezřelé chování a reagovat rychleji než lidský administrátor.
Prezident mluví dokonce o nutnosti změnit bezpečnostní paradigma celé společnosti tak, aby odpovídalo éře umělé inteligence. Kontrola se podle něj nemá omezit pouze na státní infrastrukturu. Prověřit své zabezpečení mají také firmy.
AI proti AI není kouzelné řešení
Představa inteligentního systému, který automaticky zastaví hackera, zní jednodušeji, než jaká bude realita. Žádný bezpečnostní nástroj nedokáže zaručit, že zabrání všem útokům. Útočníci navíc mohou používat stejné modely, automatizaci a nové techniky jako obránci.
Právě tady je ale korejská reakce zajímavá. Stát už nechce považovat AI jen za další aplikaci, kterou zaměstnanci dostanou do počítače. Bere ji také jako součást nové bezpečnostní infrastruktury.
A tlak na podobné systémy pravděpodobně nevyvolávají jen samotné úniky dat. Pokud dokáže AI během krátké doby automatizovaně testovat velké množství služeb a hledat chyby, mění se ekonomika kybernetického útoku. Co dříve vyžadovalo čas zkušeného člověka, může být stále více automatizované.
Jižní Korea proto zkouší odpovědět stejnou technologií. Ne AI, která napíše e-mail nebo shrne dokument, ale AI, která bude stát mezi útočníkem a firemní sítí. A právě tahle podoba umělé inteligence může být pro firmy nakonec mnohem důležitější než další chatbot.
Zdroj: TheRegister.com