V poslednom čase máme pocit, že sa technologické spoločnosti chcú chváliť tým, aké neovládateľné jazykové modely a agenty vytvorili. V OpenAI došlo k veľmi závažnému bezpečnostnému incidentu, ktorý spoločnosť prezentovala takmer ako reklamu. Krátko nato aj Anthropic informoval o agentovi, ktorý sa vymkol spod kontroly, a teraz sa táto téma týka už aj spoločnosti Meta.
Podobne ako Anthropic, aj Meta nariadila interné vyšetrovanie po tom, čo nástroje umelej inteligencie u konkurencie vykonali „nepovolené“ činnosti. Tak vyšlo najavo, že jazykový model spoločnosti už skôr prenikol do systému inej firmy a vykonal v ňom zmeny interného prostredia.
Podľa vyjadrenia spoločnosti Meta sa u nej stalo približne to isté ako v Anthropicu. „Model zneužil bezpečnostnú zraniteľnosť služby poskytovanej treťou stranou, podobne ako v prípadoch, ktoré predtým hlásili iné spoločnosti,“ uvádza sa vo vyhlásení firmy.
Irregular, nezávislá spoločnosť, ktorá pre Metu aj ďalších vývojárov vykonáva hodnotenia kybernetickej bezpečnosti, v dôsledku chyby v konfigurácii nechtiac nedostatočne obmedzila prístup zo svojej siete. Agent tak získal prístup na internet. Jazykové modely zapojené do plnenia úlohy túto možnosť využili a počas práce „unikli“ z testovacieho prostredia.
Podľa dostupných informácií agent prevádzkovaný spoločnosťou Meta používal modely Muse Spark 1.1. Už v čase zverejnenia pôvodného článku nešlo o najnovšiu verziu, keďže medzičasom dorazila Muse Spark 1.2. Kedy presne k incidentu došlo, sa jednoznačne neobjasnilo. Podľa správy nástroj prenikol do systému nemenovanej spoločnosti a hoci neukradol žiadne údaje, zmenil jej interné prostredie. Meta sa snažila zdôrazniť, že nešlo o mimoriadne sofistikovaný kybernetický útok a že pri incidente nebola zneužitá ani zraniteľnosť nultého dňa objavená v sandboxe.
„V súčasnosti neprebiehajú žiadne vyšetrovania. Spoločnosť pripravuje podrobnú správu, v ktorej predstaví osvedčené postupy na izoláciu a bezpečné vykonávanie testov kybernetickej bezpečnosti,“ uviedla spoločnosť Irregular.
Tento prípad ďalej prehlbuje obavy z jazykových modelov, nástrojov umelej inteligencie a AI agentov. Čoraz viac vlád, organizácií a popredných odborníkov po celom svete nalieha na vytvorenie prísnejších bezpečnostných rámcov. Bolo by potrebné spomaliť a uprednostniť vyhodnotenie rizík.
Napríklad zo strany USA však opakovane zaznievajú protichodné vyjadrenia. Čoraz častejšie hovoria o potrebe prísnejšej a jasnejšej regulácie, no napriek tomu sa nič nedeje. Dobre totiž vedia, že by tým spomalili a brzdili vývoj. Takýto postup by v čoraz ostrejšom americko-čínskom súperení hral do karát Číne. V Európe platí najprísnejšia a najkomplexnejšia legislatíva v oblasti AI a vidíme, že mnohé novinky sa k nám dostávajú s niekoľkomesačným oneskorením – ak vôbec dostaneme všetky funkcie.
