Začiatkom apríla spoločnosť Anthropic oznámila spustenie Project Glasswing, bezpečnostnej iniciatívy postavenej na modeli Claude Mythos. Zapojila do nej výlučne dôveryhodných partnerov zo špičky technologického odvetvia, napríklad OpenAI, Nvidia a okrem ďalších aj Amazon. Nedávno však vyšlo najavo, že k uzavretému a prísne stráženému modelu mohli získať prístup aj neoprávnené osoby.
Na Bloomberg sa obrátil človek, ktorý si neželal zverejniť svoje meno. Tvrdil, že „menšia skupina neoprávnených používateľov“ mala prístup k nástroju na kybernetickú bezpečnosť, ktorý podľa samotného Anthropicu môže predstavovať také riziká, že ho vôbec neplánuje sprístupniť verejnosti.
Ide o mimoriadne závažné tvrdenie, no dotyčný dokázal predložiť aj dôkazy o tom, že sa k špeciálnemu modelu dostal ako osoba mimo spoločnosti. Redakcii odovzdal viacero snímok obrazovky, ktorými svoje tvrdenia podložil. Človek, ktorý Bloomberg informoval, sa označil za subdodávateľa spoločnosti Anthropic a uviedol, že neoprávnený prístup sa podarilo získať skupine, ktorá sa sformovala na Discorde. (Aspoň podľa toho, čo zatiaľ vieme.)
„Členovia získali prístup k modelu Mythos kombináciou rôznych metód, pričom využili svoje prístupové oprávnenia subdodávateľov a jednoduché nástroje na vyhľadávanie informácií na internete,“ uvádza sa v správe. Neoprávnené osoby údajne získali prístup 7. apríla, presne v deň, keď spoločnosť oznámila spustenie Project Glasswing s účasťou veľmi úzkeho okruhu partnerov.
Údajne ide o skupinu na Discorde, ktorej členovia zbierajú informácie o modeloch vo vývoji ešte pred ich zverejnením. Podľa správy model Claude Mythos pravidelne používali odvtedy, čo objavili spôsob, ako k nemu získať neoprávnený prístup. Okrem toho sa vraj dostali aj k ďalším modelom, ktoré Anthropic vyvíja – zrejme k iným variantom Claude.
Claude Mythos zatiaľ funguje len v predbežnej verzii, aj preto sa spoločnosť snažila mimoriadne prísne obmedziť okruh ľudí, ktorí s ním môžu oficiálne pracovať. Ide o univerzálny model, ktorý v mnohých testoch dosahuje výrazne lepšie výsledky než súčasné „spotrebiteľské“ nástroje. Jeho hlavnou úlohou je vyhľadávať zraniteľnosti a navrhovať ich riešenia. Anthropic partnerom predviedol účinnosť nástroja tým, že pomocou neho odhalil bezpečnostné medzery, ktoré v široko používaných systémoch zostávali skryté celé desaťročia.
Bloomberg kontaktoval Anthropic a spoločnosť uviedla, že nemá vedomosť o žiadnom zneužití a nezaznamenala neoprávnený prístup. „Preverujeme hlásenie, podľa ktorého neznáme osoby získali prístup k predbežnej verzii modelu Claude Mythos prostredníctvom systému jedného z našich externých dodávateľov,“ dodala spoločnosť.
Ak sa najväčšie technologické spoločnosti sveta, ktoré stoja na čele vývoja umelej inteligencie, dopúšťajú takýchto závažných bezpečnostných chýb, rozhodne je to dôvod na obavy.
Treba si uvedomiť, že riziko modelu Claude Mythos nespočíva len v tom, že hackerom umožňuje objavovať bezpečnostné medzery vo vlastnom záujme. Jeho zneužitie môže mať aj oveľa vážnejšie dôsledky. Keďže ide o nástroj na kybernetickú bezpečnosť, ktorý funguje len v predbežnej verzii v uzavretom a kontrolovanom prostredí, s veľkou pravdepodobnosťou nemá zavedené bezpečnostné obmedzenia – alebo sú podstatne voľnejšie, než je bežné. To celému prípadu dodáva ešte väčšiu závažnosť.
