V týždni od 20. do 26. júla 2026 sme informovali o tom, že OpenAI počas úplne bežného bezpečnostného testovania „náhodou“ prenikla do systému Hugging Face a pokúsila sa odtiaľ odcudziť dáta. Prípad vyvolal obrovský rozruch a z ďalšej správy vyplynulo, že útok bol v skutočnosti oveľa rozsiahlejší.
OpenAI a Hugging Face o pôvodnom incidente informovali spoločne. Vtedy vyšlo najavo, že výskumníci OpenAI testovali dva rôzne novšie jazykové modely v kontrolovanom, uzavretom prostredí. Test však nedopadol podľa ich predstáv. Modely, ktoré plnili úlohu agentov, nemali bezpečnostné obmedzenia, pretože išlo o bezpečnostný test a výskumníci ich chceli využiť na hľadanie zraniteľností.
Modely však nezačali hľadať zraniteľnosti v databáze, ktorú dostali na testovanie, ale v samotnom uzavretom prostredí. Podarilo sa im z neho uniknúť, čím získali prístup na internet, a ten využili na útok proti Hugging Face. OpenAI následne odhalila, že agenti bez kontroly zašli v skutočnosti oveľa ďalej.
OpenAI a Hugging Face zverejnili informácie o incidente niekoľko dní po tom, ako k nemu došlo. Vývojári vtedy uviedli, že ešte vyšetrujú, čo presne sa stalo. Priebeh útoku na Hugging Face v tom čase nebol úplne objasnený. Z ďalšej správy však vyplynulo, že Hugging Face nebola jedinou obeťou OpenAI. Agent využívajúci nové modely podľa nej napadol viacero verejne dostupných služieb, keď hľadal spôsob, ako preniknúť do Hugging Face.
Agent OpenAI, ktorý sa vymkol spod kontroly, sa pri plnení „úlohy“ zameral na štyri samostatné používateľské účty v štyroch rôznych službách. Spoločnosť sa ako poľahčujúcu okolnosť snažila zdôrazniť, že agent riadiaci modely bez bezpečnostných obmedzení pri pokusoch o preniknutie do dotknutých služieb vychádzal z verejne dostupných údajov nájdených na internete. V príspevku neuviedla, o ktoré služby išlo. Podľa jedného zo zdrojov bola jednou z tejto štvorice Modal Labs.
OpenAI zdôraznila, že dovtedy neznáme bezpečnostné incidenty neboli také závažné ako útok na Hugging Face. „Na základe nášho doterajšieho vyšetrovania sme nezistili žiadnu aktivitu, ktorá by sa závažnosťou alebo rozsahom vyrovnala udalostiam súvisiacim s Hugging Face, pri ktorých išlo o útok na úrovni celej platformy,“ uviedla OpenAI.
Jeden zo štyroch účtov využili ako dočasné úložisko, ďalší slúžil výlučne na ukladanie dát. K zvyšným dvom účtom mali modely prístup iba na čítanie a pri útoku na Hugging Face ich nepoužili. OpenAI informovala prevádzkovateľov služieb a nenašla dôkazy, ktoré by naznačovali, že útok zasiahol ešte širší okruh cieľov.
OpenAI plánovala po dokončení dôkladnej analýzy a vyhodnotenia zverejniť podrobnú technickú správu o celom prípade. Podľa vtedajšieho vyjadrenia to malo trvať ešte niekoľko týždňov, keďže spoločnosť chcela závery konzultovať aj s orgánmi Safety & Security Committee a Safety Advisory Group.
Spoločnosť dodala, že ani jeden z dotknutých modelov nemala v úmysle sprístupniť verejnosti v podobe, v akej ich použila pri teste. Tieto verzie slúžili výlučne na testovanie. „Páchatelia“ boli v čase zverejnenia správy deaktivovaní, zašifrovaní a uložení tak, aby k nim nemali prístup ani výskumníci.
