S umelou inteligenciou sa dnes stretáva každý bez ohľadu na to, či priamo používa nástroje generatívnej AI. Tínedžeri už môžu na Spotify počúvať hudbu vytvorenú umelou inteligenciou, pri vybavovaní rôznych záležitostí môže hovor v zákazníckom centre prijať AI chatbot a v reklamách sa objavujú osoby vygenerované umelou inteligenciou. EÚ chce dosiahnuť, aby o tom každý jasne vedel.
Európska únia sa usiluje udávať smer v regulácii umelej inteligencie. Začiatkom augusta vstúpili v tejto oblasti do platnosti ďalšie pravidlá, ktoré dopĺňajú nariadenie o umelej inteligencii, známe ako AI Act. Povinné je už označovať a transparentne uvádzať všetko, na čom sa umelá inteligencia podieľala čo i len minimálne.
Veľké technologické spoločnosti na to mali vlastné postupy už doteraz, nie všetky sa však usilovali o úplnú transparentnosť. OpenAI napríklad nedbá na označovanie vygenerovaných obrázkov vodoznakmi, zatiaľ čo Google sa o to dôsledne stará. EÚ pomerne včas rozpoznala, že sa tejto oblasti musí venovať. Len tak môže predísť úplnému chaosu, ktorý by mohol spôsobiť obsah vytvorený umelou inteligenciou, keďže v nasledujúcich rokoch bude výrazne pribúdať.
Každý teraz musí ľudí jednoznačne informovať, že sledujú obsah vytvorený umelou inteligenciou. Odborníci na tento účel vypracovali súbor ikon. Tvorcovia, distribútori a ďalší používatelia generatívnych systémov AI nimi môžu označovať obsah vygenerovaný umelou inteligenciou. Systém označovania už počíta aj s rozlíšením rôznej miery zapojenia umelej inteligencie.
Pri obsahu, ktorý vznikol výlučne pomocou AI a vôbec nevychádza z reality, sa musí na dostatočne viditeľnom mieste uvádzať označenie „AI Generated“. Materiály akokoľvek upravené pomocou umelej inteligencie majú niesť označenie „AI Modified“. EÚ zavádza aj základnú ikonu „AI“, ktorá sa musí zobraziť vždy, keď sa na vzniku daného obsahu umelá inteligencia podieľala čo i len v najmenšej miere.
Poskytovatelia a používatelia sa môžu od usmernení EÚ odchýliť, v takom prípade však musia preukázať, že nimi prijaté opatrenia sú primerané. Jednotlivé prípady budú môcť posudzovať príslušné orgány dohľadu nad trhom a pracovné skupiny.
Poskytovatelia musia systémy AI navrhovať tak, aby používateľov jednoznačne upozornili, že komunikujú s umelou inteligenciou, a nie s človekom. Zároveň musia syntetický zvukový, obrazový, video aj textový obsah opatriť strojovo rozpoznateľným označením. Rovnako sú aj tvorcovia obsahu povinní označovať všetky materiály vygenerované alebo upravené umelou inteligenciou, ktoré majú pôsobiť ako skutočné.
„Povinnosti podľa článku 50 nariadenia o umelej inteligencii, ktoré sa týkajú transparentnosti poskytovateľov a používateľov generatívnych systémov AI, riešia riziko klamania a manipulácie a podporujú integritu informačného ekosystému,“ uviedla Európska komisia. Spoločnosti musia splniť nové pravidlá do 2. decembra 2026. EÚ na to všetkým poskytla štvormesačné prechodné obdobie.
Tým, ktorí nové predpisy nebudú dodržiavať, hrozia sankcie podľa nariadenia AI Act. Ak svoje systémy a fungovanie nezosúladia s novými požiadavkami, pokuta môže v závislosti od konkrétneho prípadu dosiahnuť 15 miliónov eur, prípadne pri spoločnostiach až 3 percentá ich obratu za predchádzajúci rok.
