V roku 2026 médiá okrem iného upozorňovali na to, že umelá inteligencia už nie je dostatočne bezpečná ani v rukách svojich vývojárov.
Firmy aj vlády čelili ostrej kritike za nečinnosť. Kalifornia dospela k záveru, že takto to ďalej nejde a že je čas ísť príkladom. Štát sa podľa očakávania zameral na OpenAI.
Prečo práve OpenAI? Vážne obavy vyvolalo najmä to, čo sa dialo v tejto spoločnosti. Dnes je už celkom zrejmé, že tvorca ChatGPT nemá vlastné nástroje pod kontrolou. Pri rôznych testoch OpenAI došlo k toľkým incidentom v oblasti kybernetickej bezpečnosti, že firma nestíha včas informovať všetkých, ktorých sa dotkli. Nie je isté ani to, či má vôbec dosť zdrojov na dôkladné prešetrenie každého prípadu.
Prvým prípadom, ktorý vyvolal veľký ohlas, bolo preniknutie do systému Hugging Face. Vniklo doň množstvo agentov umelej inteligencie riadených špičkovými aj experimentálnymi jazykovými modelmi OpenAI. Vyhodnotili totiž, že tam nájdu informácie, ktoré im pomôžu vyriešiť testovaciu úlohu z oblasti kybernetickej bezpečnosti. Agenti sa vôbec nemali dostať mimo testovacieho prostredia, no zašli oveľa ďalej.
V žalobe podanej v pondelok 16. novembra generálny prokurátor Rob Bonta obvinil OpenAI z porušenia zákona na ochranu spotrebiteľa. Podľa neho spoločnosť vedome vyvinula „nebezpečný produkt bez náležitého dohľadu“.
Dnes už vieme, že incident v Hugging Face bol len špičkou ľadovca a podobné prípady neprestávajú pribúdať. Podľa predložených dokumentov OpenAI nedávno v rámci predbežného vyšetrovania informovala prokuratúru, že umelá inteligencia sa jej už vymkla spod kontroly v mimoriadne veľkom počte prípadov.
Pri pravidelných testoch OpenAI už viac ako 80-krát „stratila kontrolu“ nad agentmi, ktorí samostatne plnili úlohy.
Podľa generálneho prokurátora sa spoločnosť vôbec nesnaží zvyšovať bezpečnosť. Prehliadanie bezpečnostných rizík dokonca označil za súčasť firemnej kultúry. „OpenAI uprednostňuje rast a rýchly vývoj modelov pred bezpečnosťou a zodpovednosťou za svoje konanie,“ zdôraznil Rob Bonta. Takéto dôsledky konania spoločnosti sa preto dali predvídať.
Podľa Bontu je žaloba potrebná, pretože OpenAI očividne pokračuje v práci bez prekážok a zo dňa na deň predstavuje väčšie riziko pre kybernetickú bezpečnosť. Sam Altman vedie spoločnosť, akoby si mohla dovoliť čokoľvek bez následkov.
„Konanie OpenAI len zvýšilo kybernetické riziká v reálnom svete, čím ohrozilo bezpečnosť, zdravie a blaho verejnosti,“ uviedol Bonta v tlačovej správe. „Spoločnosť vedome testovala nebezpečný produkt bez náležitého dohľadu a bezpečnostných postupov a zavádzala o tom verejnosť. Tým zanedbala verejnú bezpečnosť a porušila kalifornské zákony.“
OpenAI podľa očakávania situáciu nepovažuje za takú vážnu. Tvrdí, že na rovnakom základe by sa dala podať žaloba proti ktorejkoľvek firme na trhu. Zástupca spoločnosti tiež zdôraznil, že OpenAI po celý čas s úradmi vo všetkom spolupracovala a snažila sa im poskytnúť čo najpresnejšie informácie na základe toho, čo vedela.
„Od incidentu v Hugging Face sme podnikli rozsiahle a transparentné kroky, aby sme pochopili, ako sa modely správajú, keď nepostupujú podľa očakávaní, a vedeli na to primerane reagovať. Zdá sa, že žaloba mieri výlučne na OpenAI pre problém, ktorý identifikovali všetky významné laboratóriá zaoberajúce sa umelou inteligenciou,“ uviedol hovorca spoločnosti Drew Pusateri. „Nevhodné správanie modelov berieme vážne. S generálnym prokurátorom sme konštruktívne spolupracovali pri poskytovaní informácií a tvorbe prísnych bezpečnostných noriem uplatniteľných v praxi v celom odvetví.“
Ak sa v súdnom konaní preukáže, že OpenAI skutočne pochybila, bude musieť zaplatiť poškodeným. Bude tiež musieť upraviť svoje postupy tak, aby v budúcnosti dokázala účinne predchádzať tomu, že sa jej agenti vymknú spod kontroly a ohrozia kybernetickú bezpečnosť v online priestore.































