Mnohí sa obávali, čo sa stane, ak sa umelá inteligencia dostane do nesprávnych rúk. Ako sa však ukazuje, zrejme ju ani nemusia zneužiť zločinci. Vyzerá to tak, že ani najväčšia spoločnosť na svete pôsobiaca v oblasti AI nedokáže udržať vlastné nástroje pod kontrolou, čo vyvoláva vážne obavy.
Agenti umelej inteligencie od OpenAI sa nabúrali do jednej z webových stránok austrálskej vlády a pokúsili sa preniknúť aj do viacerých ďalších vládnych a univerzitných databáz.
Spoločnosť stojaca za ChatGPT rada predstavuje svoje novinky ako prvá na svete. Teraz si môže pripísať ďalšie prvenstvo: doteraz nebol zdokumentovaný jediný prípad, keď by samostatne konajúci agenti AI prenikli na vládnu webovú stránku. Incident sa navyše stal už v júni, no OpenAI o ňom príslušné orgány informovala až v septembri, a to obyčajným e-mailom zaslaným na verejnú adresu.
Tento prípad len prilieva olej do ohňa, keďže v oblasti vývoja umelej inteligencie je už aj tak poriadne napätá atmosféra. Čoraz viac ľudí vyzýva technologické spoločnosti, aby vývoj pribrzdili. Ani väčšina účastníkov trhu už proti tomu nenamieta, aspoň slovne. Ich činy tomu však zatiaľ nezodpovedajú.
O útoku na austrálsky portál informoval samotný premiér krajiny na tlačovej konferencii v New Yorku. Anthony Albanese počas návštevy Spojených štátov zdôraznil, že americká spoločnosť vyvíjajúca umelú inteligenciu porušila zákon, keď jednému zo svojich agentov umožnila preniknúť do vládnej databázy. Ukázalo sa, že jeden z modelov OpenAI získal prístup do zázemia austrálskeho portálu so zdravotníckymi štatistikami.
Podľa dostupných informácií sa agent AI dokázal „votrieť“ do systému webovej stránky Medicare, odkiaľ mal prístup k verejným aj neverejným súborom. Medicare je austrálsky program všeobecného zdravotného poistenia. Podľa zverejneného vyjadrenia časť systému, do ktorej nástroj OpenAI pri hackerskom útoku prenikol, neobsahovala mimoriadne citlivé údaje. Vyšetrovanie prípadu však stále prebieha.
„Táto situácia je jednoznačne neprijateľná,“ povedal Albanese. Premiér dodal, že kontaktovali OpenAI a mal možnosť hovoriť aj so Samom Altmanom. Povedal mu, že ho hlboko znepokojilo zistenie, že k niečomu takému vôbec mohlo dôjsť. Zdôraznil tiež, že citlivé osobné údaje sa nedostali do nesprávnych rúk, no to OpenAI v žiadnom prípade nezbavuje zodpovednosti za jej konanie.
Čerešničkou na torte je spôsob, akým OpenAI incident riešila. Prevádzkovateľov webu spoločnosť upozornila až začiatkom septembra, hoci podľa bezpečnostných záznamov aj vyjadrenia samotnej OpenAI sa útok odohral už v júni. Od spoločnosti s hodnotou bilión dolárov je navyše neprijateľné, aby obeť útoku o incidente informovala obyčajným e-mailom zaslaným na verejnú adresu.
Spoločnosť sa bráni tým, že agent umelej inteligencie nezískal prístup k osobným údajom pacientov, a preto prípad nepovažovala za závažný. „Medzi dostupnými informáciami boli súhrnné zdravotnícke štatistiky a názvy interných súborov,“ uviedol hovorca OpenAI Oscar Haines v odpovedi na otázky novinárov. Haines dodal, že príslušným orgánom poskytli všetky informácie o incidente, aby mohli odstrániť bezpečnostné medzery. Od OpenAI je to nesmierne veľkorysé.
Výskumné laboratórium Transluce navyše v septembri informovalo o ďalších troch prípadoch nezákonnej činnosti umelej inteligencie spojenej s agentmi OpenAI.
Skupina špecializujúca sa na verejné skúmanie činnosti nástrojov AI oznámila, že našla dôkazy o pokusoch nástrojov OpenAI preniknúť aj na webové stránky Štátnej univerzity v Novom Mexiku, Austrálskeho inštitútu zdravia a sociálnej starostlivosti a platformy Data USA, ktorá zhromažďuje údaje z amerických vládnych zdrojov. V týchto prípadoch však neuspeli.
Tieto incidenty čiastočne súviseli s už známymi prípadmi z oblasti kybernetickej bezpečnosti a hovorca OpenAI potvrdil, že išlo o skutočné útoky. Prevádzkovateľov napadnutých portálov už údajne informovali. Prečo sa však obete o útokoch dozvedajú až po týždňoch či mesiacoch? „Pri našich rozsiahlych vyšetrovaniach naďalej uprednostňujeme najzávažnejšie prípady,“ povedal hovorca a dodal, že agentom zahlcujúcim webové stránky spamom nepripisujú veľký význam.
