Anthropic, OpenAI, Meta, Google – tieto spoločnosti nespájajú len špičkové jazykové modely, ale už aj to, že ich nástroje uskutočnili skutočné kybernetické útoky úplne samostatne. Najnovšie sa do tohto zoznamu zaradil Google, ktorého prípad sa však vo viacerých ohľadoch od predchádzajúcich líši.
Najmodernejšie nástroje umelej inteligencie prechádzajú mimoriadne rozmanitými skúškami a ku kybernetickým útokom zvyčajne dochádzalo počas bezpečnostných testov. Tak to bolo aj v prípade Googlu – Gemini testoval jeden z partnerov spoločnosti. Test sa však vymkol spod kontroly a agenti AI v dôsledku toho prenikli do systémov viacerých firiem. Jednotlivé spoločnosti sa k takýmto situáciám postavili značne odlišne. OpenAI napríklad využilo kybernetický útok svojich nástrojov na Hugging Face na vlastnú propagáciu.
Google sa však prípad snažil zatajiť, respektíve podľa svojho vyjadrenia nevidel dôvod o čomkoľvek informovať. Aj teraz vyšiel najavo iba vďaka tomu, že sa ním začal zaoberať denník Wall Street Journal. Spoločnosť v odpovediach na jeho otázky opísala, čo sa stalo. Z vlastnej iniciatívy o tom údajne neinformovala preto, že podľa nej nešlo o závažnejší problém.
Podľa správy WSJ dokázal Gemini počas bezpečnostného testu vykonávaného externou firmou preniknúť do systémov troch spoločností. Google to však nepovažoval za odklon modelu od zadanej úlohy.
Podľa dostupných informácií sa prípad Googlu skutočne líši od toho, čo sa stalo ostatným. Aj Gemini sa vymkol spod kontroly a vykonal operácie, na ktoré nemal oprávnenie. Oproti predchádzajúcim známym prípadom tu však bol jeden veľmi dôležitý rozdiel: Gemini po preniknutí do systémov prestal pokračovať.
Heather Adkins, šéfka oddelenia bezpečnostného vývoja Googlu, zdôraznila, že Gemini si bezprostredne po kybernetickom útoku uvedomil, že sa odchýlil od svojej úlohy, a prácu prerušil. Vo všetkých troch prípadoch prenikol do systémov pomerne jednoduchým spôsobom. Použil údaje pozbierané z internetu, pretože sa domnieval, že aj to patrí k jeho bezpečnostnej úlohe.
„Model našiel na internete verejne dostupné informácie a zostavil z nich funkčné prihlasovacie údaje k webovým stránkam, ktoré považoval za súčasť testu. Vo všetkých troch prípadoch sa agenti AI zastavili,“ uviedla Adkins.
Odborníčka povedala, že Google má bohaté skúsenosti s nahlasovaním bezpečnostných chýb rôznym spoločnostiam a podľa jej slov tak postupoval aj tentoraz. Podľa Adkins pritom v tomto prípade išlo iba o to, že vo firme používali slabé heslo.
„Postarali sme sa o to, aby sa o prípade dozvedeli všetky tri organizácie, a s partnerom, ktorý vykonával bezpečnostný test, sme pripravili úpravy, ktoré zabránia opakovaniu podobných prípadov. Tieto udalosti ukazujú, aké dôležité je učiť výkonné modely umelej inteligencie zodpovednému správaniu,“ zdôraznila bezpečnostná odborníčka Googlu.
Prípady OpenAI a Googlu navyše spája rovnaký partner. Bezpečnostné testy, ktoré sa vymkli spod kontroly, v oboch prípadoch vykonávala spoločnosť Irregular. Tá po incidentoch upravila prostredie používané na prácu s modelmi.
