Spoločnosť Meta v poslednom čase takmer pravidelne čelí menším či väčším problémom, ktoré rôznym spôsobom súvisia s umelou inteligenciou. Vôbec ju to však neodrádza od prepúšťania tisícov ľudí a čoraz širšieho nasadzovania AI vo všetkých oblastiach platformy. Tentoraz sa krátko po spustení dostal do problémov interný „program na trénovanie AI“.
V apríli vyšlo najavo, že Meta začne sledovať a zaznamenávať značnú časť činnosti väčšiny svojich zamestnancov. Tento krok vtedy vyvolal značný rozruch a búrlivé diskusie. Nové zistenia však vrhajú na postup spoločnosti ešte horšie svetlo. Ukázalo sa, že firma so zaznamenanými údajmi nezaobchádzala náležite a veľké množstvo interných informácií sa mohlo dostať do nesprávnych rúk.
Podľa snímok obrazovky, ktoré získal Business Insider, spoločnosť dočasne pozastavila program na trénovanie AI, pretože zaznamenané citlivé údaje boli široko dostupné v celej firemnej sieti.
Pre nedostatočné zabezpečenie údajov sa k nepovolaným osobám mohli dostať súkromné rozhovory zamestnancov, ich hodnotenia pracovného výkonu aj prepisy ich činnosti. Išlo o vážny, no nie kritický incident, ktorý v internom systéme klasifikácie rizík spoločnosti dostal označenie SEV 2. Na tejto stupnici predstavuje SEV 5 najmenší bezpečnostný problém, zatiaľ čo SEV 0 označuje situáciu s najvyššou mierou ohrozenia.
Business Insider v tejto veci oslovil Metu a hovorca spoločnosti incident potvrdil. Kontroverzný interný systém na sledovanie činnosti zamestnancov bol skutočne dočasne odstavený pre „bezpečnostný incident“. Hovorca však vo svojej stručnej odpovedi zdôraznil aj to, že spoločnosť nemá vedomosť o žiadnom konkrétnom zneužití údajov. Program podľa neho pozastavili len z preventívnych dôvodov, pričom vyšetrovanie v tom čase ešte prebiehalo.
„Pri navrhovaní tohto programu sme sa usilovali dôsledne dbať na prísnu ochranu osobných údajov. Hoci v súčasnosti nič nenasvedčuje tomu, že by zamestnanci spoločnosti Meta získali neoprávnený prístup k akýmkoľvek údajom, na čas vyšetrovania program pozastavujeme,“ uviedol hovorca.
Business Insider, ktorý získal prístup k internej komunikácii spoločnosti, informoval, že tieto udalosti ešte prehĺbili frustráciu z postupu Mety. Zamestnanci posielali vedeniu kritické správy, pretože od začiatku programu nezabezpečilo dostatočnú ochranu údajov pred neoprávneným prístupom. Mnohým bolo sledovanie nepríjemné už od začiatku a tento incident ich dôveru vo firmu ešte viac oslabil.
„Nezaznamenal som žiadne známky záškodníckej činnosti, no skutočnosť, že tieto údaje neboli chránené tak, ako nám pôvodne sľúbili, je nesmierne frustrujúca,“ zdôraznil jeden zo zamestnancov.
Meta pôvodne spustila rozsiahly zber údajov pod názvom „Model Capability Initiative“, aby zlepšila fungovanie umelej inteligencie vo firme. Podľa spoločnosti je to v záujme zamestnancov, pretože agenti umelej inteligencie im tak časom budú vedieť poskytovať čoraz lepšiu pomoc. Odborníci by vďaka tomu mali v budúcnosti pracovať efektívnejšie.
Meta tiež uviedla, že údaje nevyužíva na žiadny iný účel a nemá možnosť do nich nahliadať. Po tomto incidente je však isté, že s informáciami získanými sledovaním nezaobchádzala tak, ako pôvodne avizovala.
