Anthropic, ktorý vyvíja Claude, sa čoskoro chystá vstúpiť na burzu a v tejto súvislosti v poslednom čase zverejnil viacero dôležitých oznámení. Tentoraz informujeme o tom, že po viac než roku aktualizoval pravidlá používania Claude. Tie určujú hranice povoleného používania a spoločnosť sa o ne môže oprieť aj pri zablokovaní používateľov na platforme.
Spoločnosť spresnila a sprísnila pravidlá, ktoré zakazujú zneužívanie chatbota, zámernú manipuláciu so systémom, ako aj obťažujúce a násilné interakcie.
Aktualizované pravidlá venujú osobitnú pozornosť správaniu, pri ktorom by sa umelá inteligencia využívala na simulovanie násilných, ponižujúcich alebo psychologicky manipulatívnych situácií. Anthropic výslovne zakazuje zadania zamerané na modelovanie násilného správania, sexuálne či slovné obťažovanie alebo vytváranie situácií, ktorých cieľom je zámerne prelomiť bezpečnostné zábrany modelu.
Nové pravidlá sa netýkajú iba používania so zámerom ublížiť iným, ale spresňujú aj hranice priamej komunikácie s modelom.
Podľa skúseností spoločnosti niektorí používatelia pravidelne posielajú chatbotu násilné a urážlivé správy. Anthropic považuje aj takéto správanie za neprijateľné a rozhodol sa, že nastal čas zakročiť. Kto chce Claude používať, má s ním komunikovať slušne a s rešpektom, aký patrí aj ľuďom. Dôslednejším sledovaním takýchto prejavov bude spoločnosť schopná zachytiť aj viac situácií naznačujúcich zneužívanie. Claude mohol podobné rozhovory ukončovať už po aktualizácii z augusta 2025, odteraz sa však týmto „zneužitiam“ bude venovať ešte väčšia pozornosť.
Zmena zároveň chráni bezpečnosť používateľov: pravidlá sprísňujú obmedzenia týkajúce sa sebapoškodzovania, vytvárania extrémnej psychickej závislosti a škodlivých interakcií odtrhnutých od reality. Dnes je, žiaľ, celkom reálne, že niekto s chatbotom rozoberá svoju hlbokú depresiu alebo sa mu zdôveruje so samovražednými sklonmi či úmyslami. Claude bude na takéto situácie vedieť lepšie reagovať. Mnohí používatelia pritom iba skúšajú, ako služba na podobné zadania zareaguje, no spoločnosť sa bude usilovať obmedziť aj takéto simulácie.
Anthropic teraz zlúčil a doplnil viaceré existujúce obmedzenia do nového ustanovenia, ktoré zakazuje klamlivé komerčné alebo politické kampane. Dáva tým najavo, že venuje pozornosť čoraz závažnejšiemu problému propagandy generovanej umelou inteligenciou. Obmedzuje pokusy utajiť, kto stojí za konkrétnym posolstvom, alebo umelo zväčšovať dosah obsahu pomocou falošných účtov a príspevkov.
Pravidlá týkajúce sa volieb navyše zakazujú zavádzanie voličov a narúšanie volieb. Zahŕňa to šírenie zavádzajúcich informácií o kandidátoch alebo spôsobe hlasovania, vydávanie sa za kandidátov či volebných úradníkov aj pokusy o znižovanie volebnej účasti.
Podľa najnovšej správy spoločnosti o analýze hrozieb ľudia čoraz častejšie využívajú sledovacie systémy založené na Claude aj na identifikáciu a sledovanie svojich politických oponentov. Spoločnosť preto spresnila aj zákazy týkajúce sa sledovania.
Anthropic uviedol, že jeho pravidlá používania vždy verejne zakazovali využívať Claude na vývoj zbraní. Napriek tomu spoločnosť zaznamenala viacero pokusov použiť ho na vývoj riadiaceho a ovládacieho softvéru pre zbrane, a preto nové pravidlá tento zákaz rozširujú. Po novom sa vzťahuje aj na softvér a súčiastky zabezpečujúce fungovanie zbraní, ako aj na činnosti, medzi ktoré patrí vyzbrojovanie dronov a ďalších autonómnych vozidiel.
Anthropic zaviedol aj nové pravidlo pre prípady, keď sú jeho modely umelej inteligencie pripojené k hardvéru, ktorý dokáže samostatne vykonávať fyzické úkony a môže spôsobiť zranenie. Na takéto zariadenie musí mať možnosť dohliadať vyškolená obsluha, ktorá ho v prípade potreby dokáže zastaviť. Toto ustanovenie sa už jednoznačne týka využitia v robotike. Podľa stanoviska Anthropicu musí byť pri použití Claude v robotovi vždy prítomný ľudský operátor.
Výrazne sa sprísnila aj technická stránka pravidiel. Tie odteraz ešte jasnejšie vymedzujú nepovolené bezpečnostné testovanie a pokusy o obchádzanie ochrany. Kategoricky zakázané budú aj všetky činnosti zamerané na preniknutie do vnútorných procesov uvažovania Claude, hromadné kopírovanie odpovedí modelu v priemyselnom rozsahu či neoprávnené reverzné inžinierstvo kódu systému.
Tento krok priamo nadväzuje na najnovšie aktualizácie modelov Anthropicu vrátane uvedenia Claude Sonnet 5.5 a Haiku 5.5. Spoločnosť v nich začala chrániť svoje systémy filtrami zabudovanými na hardvérovej aj softvérovej úrovni pred sieťami vykonávajúcimi automatizovanú „destiláciu“.
Najnovšia úprava pravidiel používania vytvára právny a administratívny základ na postihovanie zneužívania, a to aj s okamžitou platnosťou. Na presadzovanie pravidiel Anthropic využíva viacstupňový mechanizmus dohľadu.
