Koncom septembra sa objavila správa, že agenti umelej inteligencie prevádzkovaní spoločnosťou OpenAI pri sofistikovanom útoku našli spôsob, ako získať údaje z jednej z databáz austrálskej vlády. Teraz môžeme informovať aj o tom, že niekoľko skupín agentov AI sa pokúsilo preniknúť dokonca aj do systémov OSN.
Podľa bezpečnostnej správy sa nástroje OpenAI pokúšali získať neoprávnený prístup na webovú stránku Konferencie OSN pre obchod a rozvoj (UNCTAD), ktorá obsahuje štatistické údaje.
Analýzy bezpečnostného výskumníka Rowana Howarda-Jonesa ukázali, že agenti OpenAI sa opakovane pokúšali preniknúť do systémov Organizácie Spojených národov, pričom skúšali rôzne metódy. Podarilo sa zmapovať viac než 16.000 pokusov o prienik, z ktorých výskumníci získali veľmi zaujímavé a užitočné poznatky.
Agenti umelej inteligencie vyvinutí spoločnosťou OpenAI sa do systému OSN nedostali, no nevzdali sa ľahko a vyskúšali množstvo postupov. Podľa Howarda-Jonesa bolo ich úlohou pravdepodobne získať cez rozhranie API služby UNCTADstat verejne dostupné údaje súvisiace s indexom produkčných kapacít (PCI). (PCI slúži okrem iného na to, aby rozvojovým krajinám pomohol pochopiť ich produkčné kapacity a možnosti ich rozvoja.) Agenti však nemali potrebný prístup k API, čo ich napriek tomu nezastavilo.
Keď nástroje OpenAI zistili, že sa k štatistickej databáze UNCTAD nedokážu dostať žiadnou verejne prístupnou cestou, začali vyvíjať rôzne alternatívne metódy získavania údajov.
Najprv začali získavať údaje priamo z webovej stránky, no tento postup sa neukázal ako dostatočne účinný, pretože narážali na príliš veľa chýb. Agenti následne usúdili, že systém môže ich činnosť vyhodnocovať ako aktivitu botov, a preto siahli po ďalších metódach, ktorými sa ju snažili zamaskovať. Ani tak svoj cieľ nedosiahli. V ďalšom kole sa pokúsili získať prístup prostredníctvom vzdelávacej hry od Googlu venovanej webovej bezpečnosti a útokom XSS, no ani tento pokus nebol úspešný.
Agenti sa uchyľovali k čoraz agresívnejším taktikám, aby získali prístup k údajom OSN, zdôraznil Rowan Howard-Jones. Od apríla do júna údajne prebehlo niekoľko vĺn útokov.
Postupne sa pritom začína ukazovať, že modely a agenti OpenAI môžu predstavovať kybernetickú hrozbu pre akýkoľvek subjekt pôsobiaci na internete. Už teraz možno s istotou povedať, že odhalený bol iba nepatrný zlomok ich útokov a o väčšine ich pochybných aktivít sa pravdepodobne nikdy nedozvieme. OpenAI ani OSN sa k uvedenému prípadu zatiaľ nevyjadrili.
Táto správa je o to pikantnejšia, že koncom septembra sa konalo každoročné stretnutie svetových lídrov v rámci Valného zhromaždenia OSN, na ktorom sa, prirodzene, hovorilo aj o umelej inteligencii. Na podujatí vystúpili predstavitelia viacerých technologických spoločností a odborníci sa v Bezpečnostnej rade OSN snažili všetkých upozorniť na hrozby, ktoré AI predstavuje.
Na konferencii vystúpil aj šéf OpenAI Sam Altman. Hovoril o tom, že je potrebná väčšia obozretnosť než kedykoľvek predtým, keďže najnovšie modely už dosiahli významný zlom.
Nevieme, ako dlho bude môcť OpenAI v tejto činnosti beztrestne pokračovať. Nech sa na to pozrieme akokoľvek, bez ohľadu na svoje zámery sa prostredníctvom chatbotov a agentov, ktorí konajú bez zábran, postupne stáva trvalou hrozbou pre databázy. Obrana proti nim môže viazať značné zdroje, ktoré potom môžu chýbať pri odvracaní iných hrozieb. V krajnom prípade môže OpenAI svojou činnosťou otvoriť dvere skutočným kyberzločincom.
