Veľké technologické spoločnosti sa snažia využívať umelú inteligenciu v čo najväčšom rozsahu. Medzi technologickými gigantmi v tomto smere vedie Meta, no zdá sa, že by mala nové nástroje AI zavádzať opatrnejšie. Dokážu totiž spôsobiť poriadne problémy.
The Information informoval, že niekoľko dní pred zverejnením článku 22. marca mali zamestnanci Mety takmer dve hodiny neoprávnený prístup k firemným údajom aj k údajom používateľov.
Podľa dostupných informácií sa incident začal tým, že AI agent vytvorený Metou na interné použitie – podobný nástroju OpenClaw – poskytol nesprávnu technickú radu a svoju odpoveď verejne zverejnil. Jeden zo zamestnancov sa potom riadil jeho pokynmi a upravil systém tak, že umožnil neoprávnený prístup k firemným aj používateľským údajom.
The Verge v tejto súvislosti oslovil Metu, ktorá potvrdila, že k incidentu skutočne došlo a nejde o nepodložené tvrdenie. Hovorca spoločnosti Tracy Clayton sa však v oficiálnom vyjadrení snažil zdôrazniť, že „k nesprávnemu nakladaniu s údajmi používateľov nedošlo“.
Podľa Claytona je interný AI agent spoločnosti Meta „svojou povahou podobný nástroju OpenClaw, funguje však v internom vývojárskom prostredí“. Slúži predovšetkým na analýzu technických otázok, ktoré ostatní zamestnanci kladú na uzavretom firemnom fóre. Agent mal po schválení odoslať súkromnú odpoveď, namiesto toho ju však zverejnil bez kontroly.
Jeden zo zamestnancov následne vykonal jeho nesprávne pokyny a spôsobil tým bezpečnostný incident úrovne SEV1 – druhej najvyššej v klasifikácii Mety.
Tracy Clayton sa vo svojej odpovedi snažil zdôrazniť, že AI agent v tomto prípade nevykonal žiadne príkazy ani nič nezmenil. Iba poskytol radu a jeho pokyny vykonal človek. V podstate tým chcel poukázať na to, že pochybil zamestnanec, nie AI. Len ťažko sa však dá tento prípad hodnotiť ako výlučne ľudské zlyhanie.
„Zamestnanec, ktorý so systémom komunikoval, si bol plne vedomý toho, že komunikuje s automatizovaným botom,“ povedal Clayton pre The Verge. „Agent okrem zodpovedania otázky nepodnikol žiadne kroky. Ak by bol príslušný inžinier lepšie informovaný alebo vykonal dodatočné kontroly, dalo sa tomu predísť.“
Správa prišla v obzvlášť nevhodnom čase. Krátko pred jej zverejnením 22. marca sa totiž objavili informácie, že Meta by mohla pripravovať najväčšie prepúšťanie vo svojej histórii a úlohy zamestnancov by zrejme prevzali nástroje umelej inteligencie.
Meta sa údajne chcela rozlúčiť s viac ako 20 percentami zamestnancov, aby zvýšila svoju efektivitu. Podľa vtedy najnovších údajov by to znamenalo prepustenie približne 16-tisíc ľudí. Vzhľadom na uvedené oficiálne vyjadrenie by nebolo prekvapením, keby sa medzi prepustenými ocitol aj zamestnanec, ktorý pri tomto marcovom incidente spôsobil problémy tým, že sa riadil pokynmi AI agenta.
Meta už v roku 2023 poskytla generatívnej AI veľký priestor vo svojej internej sieti a v nasledujúcich rokoch sústavne pracovala na tom, aby z umelej inteligencie urobila čo najefektívnejšieho spolupracovníka. Ako ukazuje tento prípad, v marci už vo firme aktívne pracovali aj AI agenti. Práve preto mohla spoločnosť považovať čas za vhodný na drastické prepúšťanie. Tento incident však bol vážnym varovaním, že pri zavádzaní týchto nástrojov je zatiaľ namieste oveľa väčšia opatrnosť.
