Z roka na rok pribúda hlasov volajúcich po prísnejšej kontrole technológií umelej inteligencie a tieto požiadavky nachádzajú odozvu najmä v Európskej únii. EÚ sa takmer ako jediná viditeľne usiluje udržať inovácie v oblasti umelej inteligencie pod kontrolou. Aj Claude bude v budúcnosti transparentnejší vďaka európskej legislatíve.
Anthropic oznámil, že texty aj obrázky vytvorené chatbotom Claude budú v budúcnosti označené vodoznakom. Ten bude predovšetkým strojovo čitateľný, takže príslušné systémy a softvér dokážu s vysokou spoľahlivosťou rozpoznať, či skúmaný obsah čiastočne alebo úplne vytvorila umelá inteligencia.
„Do generovaných textov budú vložené vodoznaky a generované súbory budú tam, kde je to podporované, obsahovať digitálne podpísané metadáta o pôvode,“ píše Anthropic na aktualizovanej stránke podpory Claude.
V uplynulých rokoch vzniklo množstvo nástrojov, ktorých cieľom je odhaliť stopy umelej inteligencie a rozpoznať jej zneužívanie. Vo veľkej väčšine prípadov však fungujú nespoľahlivo a slúžia len na prehlbovanie nedôvery medzi ľuďmi. Aj v tejto oblasti sú potrebné spoľahlivé nástroje, no podľa odborníkov je na to nevyhnutné, aby firmy dôsledne zabezpečili označovanie vodoznakmi.
Európska únia začiatkom augusta oznámila, že v rámci legislatívy AI Act zavádza systém označovania obsahu vytvoreného umelou inteligenciou s cieľom zvýšiť transparentnosť. Ten stanovuje povinné označovanie materiálov vytvorených pomocou generatívnej AI a rozlišuje dve kategórie: obsah vygenerovaný AI a obsah upravený či pozmenený pomocou AI. Každá kategória dostala vlastné označenie, no nie je jasné, či napríklad Claude dokáže rozlišovať medzi úplne vygenerovaným a upraveným obsahom.
Pravidlá Európskej únie týkajúce sa označovania obsahu vytvoreného AI boli zavedené so štvormesačným prechodným obdobím. Firmy tak ešte v tomto roku musia zabezpečiť súlad s aktualizovanou legislatívou AI Act. Ak tak neurobia, EÚ môže začať vyšetrovanie. Vzhľadom na to, aká aktívna je v poslednom čase Európska komisia, nepochybujeme, že k tomu aj pristúpi.
Nové modely Claude, ktoré Anthropic uvedie v budúcnosti, budú označovať generované materiály už od prvého dňa. Aktuálne používané modely to zatiaľ nerobia, no aktualizácia sa údajne pripravuje aj pre tieto varianty Claude.
Anthropic bude na vkladanie vodoznakov používať dve rôzne riešenia podľa formátu obsahu. Pri obrázkoch a súboroch využije systém C2PA, ktorý už používajú Google, OpenAI a Adobe. Textové odpovede budú označené inou metódou, ktorá sa bude skrývať doslova medzi riadkami.
„Keď podporovaný model Claude generuje text, vpletie nepostrehnuteľný vodoznak priamo do samotného textu. Nie je viditeľný a nemení význam, kvalitu ani čitateľnosť odpovede Claude,“ zdôraznila spoločnosť.
Ako sme sa dozvedeli, vodoznak zostane rozpoznateľný bez ohľadu na to, kam používateľ text skopíruje. Dá sa odhaliť aj po úprave textu, no metóda predsa len nie je úplne nepriestrelná. Do mimoriadne krátkeho úryvku sa vodoznak nedá dobre ukryť a pri výrazných úpravách či rozsiahlom preformulovaní textu sa môže stopa modelov Claude stratiť.
Anthropic zavedie označovanie vodoznakmi plošne na celom svete, neplánuje ho obmedziť len na EÚ. Spoločnosť už v minulosti podnikla kroky na zvýšenie transparentnosti, a preto neprekvapuje, že ani teraz nehľadá spôsob, ako sa novej regulácii vyhnúť. Vodoznaky budú zabezpečovať Claude API, chatbot Claude, Claude Code, Claude Cowork aj Claude Tag. Nezáleží ani na poskytovateľovi: všetky tieto riešenia budú fungovať rovnako aj v systémoch AWS, SpaceXAI, Google Cloud a Microsoftu.
