Medzi OpenAI a Hugging Face došlo k bezprecedentnému kyberbezpečnostnému incidentu, ktorý odhaľuje viac problémov, než sa na prvý pohľad zdá. Je šokujúce, že agenti umelej inteligencie sa môžu vymknúť spod kontroly a preniknúť do iných platforiem. Ešte väčším problémom, ktorý vyvoláva ďalšie otázky, je však možno spôsob, akým OpenAI celú záležitosť riešila.
OpenAI podľa vlastných slov 16. júla testovala dva jazykové modely v uzavretom a prísne kontrolovanom prostredí. Ich úlohou bolo vykonať hackerský útok. Podľa oficiálneho vyhlásenia spoločnosť nasadila GPT-5.6 Sol a dosiaľ neoznámený experimentálny model. Aby mohol byť bezpečnostný test úspešný, vypla v nich ochranné mechanizmy, ktoré sa pri verejne dostupných modeloch musia povinne používať.
Úlohou oboch modelov bolo pracovať úplne samostatne ako agenti, hľadať zraniteľnosti v zadanom kóde a využívaním rôznych bezpečnostných medzier prekonávať ochranné bariéry.
Pri plnení úlohy modely prišli na to, ako uniknúť z uzavretého prostredia, získali prístup na internet a dospeli k záveru, že v databáze Hugging Face môžu nájsť kľúče, pomocou ktorých sa nabúrajú do svojho pôvodného cieľa. Varianty modelov prispôsobené na kybernetickú obranu počas incidentu našli viacero závažných zraniteľností v systémoch OpenAI aj Hugging Face.
Celú záležitosť ešte zhoršuje skutočnosť, že podľa vyjadrenia Hugging Face sa OpenAI nesnažila platformu okamžite kontaktovať. Hugging Face odhalila prienik sama a jej vlastní agenti sa pokúšali útok odraziť. Nevedela, že za ním stojí práve OpenAI, okamžite však rozpoznala, že nejde o bežný problém v oblasti kybernetickej bezpečnosti. Identifikovala totiž „systém agentov umelej inteligencie, ktorý od začiatku až do konca konal autonómne“.
Keď sa vyjasnilo, čo presne sa stalo, OpenAI a Hugging Face spojili svoje poznatky a začali zisťovať, čo presne agent riadený oboma modelmi robil na pozadí a ako postupoval. Sú to dôležité skúsenosti, ktoré pomôžu predísť podobným prípadom v budúcnosti.
Čo je popri samotnom fakte, že sa niečo také vôbec mohlo stať, najväčším problémom? Spôsob, akým OpenAI k incidentu pristupuje. Je celkom zrejmé, že spoločnosť síce priznáva svoju vinu, no zároveň sa snaží celú záležitosť využiť na bezplatnú reklamu.
Opakovane zdôrazňuje, aké výkonné sú jej mimoriadne pokročilé riešenia kybernetickej bezpečnosti. Výsledkami testov sa snaží dokázať, že modely GPT patria aj v tejto oblasti k špičke, hoci práve pri tomto incidente sa nabúrali do jej vlastného systému aj do cudzej služby. Hugging Face navyše ponúkla zaradenie medzi svojich prioritných partnerov, aby jej pomohla posilniť obranný systém. (Pritom podľa všetkého mala čo zlepšovať aj na vlastnej ochrane.)
Je mimoriadne znepokojujúce, že sa OpenAI po takomto incidente v podstate snaží vyhrievať na výslní. Odborníci na kybernetickú bezpečnosť už predtým zdôrazňovali, že rýchly, takmer nespútaný a neregulovaný vývoj generatívnej umelej inteligencie môže mať nedozerné následky. Tento prípad opäť ukazuje, že ani samotné technologické spoločnosti nedokážu udržať vlastné výtvory pod kontrolou. Radšej ani nepomyslieť na to, čo by kyberzločinci dokázali s čoraz vyspelejšími nástrojmi či dokonca s interným modelom, ktorý by sa dostal do nesprávnych rúk.
