Umelá inteligencia sa v súčasnosti vyvíja tempom, s akým predtým nikto nepočítal. Navyše sa s príchodom ChatGPT vydala smerom, na ktorý nebol svet pripravený. Demis Hassabis v júli hovoril o tom, že by mala čo najrýchlejšie vzniknúť organizácia, ktorá by dokázala tento vývoj regulovať na medzinárodnej úrovni.
V súčasnosti je len málo krajín, v ktorých zákony či iné právne predpisy akýmkoľvek spôsobom regulujú používanie umelej inteligencie. V tejto oblasti vedú Čína a Európska únia. Hoci sa ju snažia udržať pod kontrolou výrazne odlišnými spôsobmi, ich nástroje fungujú účinnejšie než tie v Spojených štátoch. V USA mnohí presadzujú reguláciu, vláda však zjavne kladie väčší dôraz na udržanie technologického prvenstva.
Tam, kde sa o regulácii AI uvažovalo už skôr, si celý proces predstavovali úplne inak. Ukázalo sa to aj v Európskej únii, ktorá v regulácii udáva smer. Pripravované pravidlá neustále upravovala ešte aj na poslednú chvíľu a zmeny v nariadení AI Act vykonala aj po jeho zavedení. Hoci odborníci na AIA pracovali celé roky, pôvodný návrh napríklad vôbec nespomínal generatívnu AI.
Dnes vidíme, že mnohé riešenia založené na AI treba pre Európu upravovať, aby sa vôbec mohli dostať na jej trh. USA zatiaľ chránia skôr inovácie než používateľov a v prípade potreby sa snažia hasiť následky namiesto toho, aby problémom predchádzali.
Demis Hassabis v príspevku na LinkedIne uviedol, že vznik medzinárodnej organizácie pre dohľad nad AI by mali iniciovať USA. Pri pohľade na právne prostredie vo svete má však Európska únia v tomto smere už oveľa viac skúseností. Podľa generálneho riaditeľa spoločnosti Google DeepMind by takáto organizácia mala preukázať svoju autoritu a rozhodne zasiahnuť proti najvyspelejším modelom, ak sa stanú príliš nebezpečnými. Predstava, že nový model môže predstavovať vážne riziko pre národnú bezpečnosť, dnes už vôbec nepatrí do sci-fi.
Prípad modelu Mythos od spoločnosti Anthropic ukázal, že nový jazykový model, ktorý prekonáva všetkých svojich predchodcov, môže bez primeraných obmedzení predstavovať vážne bezpečnostné riziko. Do väčšiny modelov sa pritom ochranné mechanizmy zvyknú zavádzať až na konci vývoja. Aj tento prístup by technologické spoločnosti mali zmeniť.
Podľa Hassabisa by USA mali viesť medzinárodnú regulačnú organizáciu preto, že majú vedúce postavenie vo vývoji z technologického aj ekonomického hľadiska. Dohľad by mala vykonávať skupina popredných nezávislých odborníkov a zástupcov vývojárskych komunít z celého sveta. Takto by mohla globálna regulácia fungovať účinne.
Takáto organizácia by mohla nariadiť, aby bola ku každému novému jazykovému modelu zverejnená štandardizovaná analýza rizík. Odborníci by mohli koordinovať aj ich uvádzanie do praxe, aby celý proces prebiehal transparentne, na rozdiel od toho, čo vidíme dnes.
Elektronické zariadenia aj ďalšie výrobky prechádzajú pred uvedením na trh mnohými internými kontrolnými testami a musia spĺňať rôzne bezpečnostné požiadavky. Nástroje založené na umelej inteligencii sa však na trh valia bez dôslednejšej kontroly. Pod tlakom tvrdej konkurencie sa často zverejňujú ešte hlboko vo fáze vývoja a okamžite sa stávajú dostupnými všetkým záujemcom na celom svete.
„Nachádzame sa v rozhodujúcom okamihu dejín ľudstva. Od dosiahnutia skutočnej všeobecnej umelej inteligencie (AGI) nás pravdepodobne delí už len niekoľko rokov. Keď sa v nasledujúcich desaťročiach obzrieme za týmto obdobím, myslím si, že si uvedomíme, že sme stáli na prahu singularity – teda na úsvite novej éry ľudstva,“ zdôraznil Hassabis.
Odborník sa už vyslovil aj za prísnejšie pravidlá a dôslednejšiu kontrolu biologických zbraní vytváraných pomocou AI. Svetoví lídri by sa podľa neho mali vážnejšie zaoberať aj očakávanými ekonomickými dôsledkami nových technológií.
Podľa informácií z odvetvia sa šéf a spoluzakladateľ DeepMindu už istý čas v zákulisí snaží presvedčiť Trumpovu administratívu, aby umožnila vznik organizácie podľa jeho predstáv. Údajne za ňu loboval nielen v USA, ale už aj v Európe.
Podľa dostupných informácií by takýto medzinárodný orgán pre dohľad nad AI mohol skutočne vzniknúť už v roku 2026. O prielom v tejto oblasti sa okrem Hassabisa usilujú aj ďalší odborníci. Mnohí už vyjadrili obavy z prílišnej nejednotnosti vo svete, hoci každý nový vývoj môže mať významné globálne dôsledky. Skutočný pokrok v regulácii sa dá dosiahnuť iba spoluprácou, keďže geografická poloha dnes už len zriedka obmedzuje dostupnosť služieb.
