V dňoch pred 17. marcom priniesol denník The Wall Street Journal správu o tom, ako OpenAI napreduje s vývojom funkcie, ktorá by mala prelomiť obmedzenia ChatGPT pri rozhovoroch so sexuálnym obsahom. Vývoj zatiaľ nenapreduje práve najlepšie.
Šéf a spoluzakladateľ OpenAI Sam Altman v októbri 2025 prvýkrát oficiálne oznámil, že ChatGPT dostane režim, v ktorom bude možné viesť s umelou inteligenciou „šteklivé rozhovory“. Podľa Altmana sa OpenAI podarilo túto možnosť navrhnúť tak, aby nepredstavovala nebezpečenstvo. Aspoň teda nespôsobovala „vážne problémy s duševným zdravím“.
Podľa predchádzajúcich informácií mala novinka doraziť v prvom štvrťroku 2026, OpenAI sa však rozhodlo zavedenie kontroverznej funkcie odložiť.
Spoločnosť uviedla, že osobitný režim odložila pre vývoj iných funkcií s vyššou prioritou. Podľa interných informácií je však skutočný dôvod iný. Za odkladom môžu byť vážne obavy, ktoré vo firme vyvolalo povolenie erotických rozhovorov. Ak sa niečo pokazí, OpenAI na to môže tvrdo doplatiť. Jeho povesť pritom v poslednom čase aj bez toho utrpela pre vzťahy s americkou vládou.
Podľa anonymného zdroja, ktorý sa vyjadril pre The Wall Street Journal, má osobitný režim viacero problémov. Na jednej strane predstavuje obrovskú technologickú výzvu, pretože ChatGPT by musel rozhovory v tejto oblasti citlivo usmerňovať. Na druhej strane sú tu bezpečnostné riziká, ktoré je veľmi ťažké vylúčiť.
Vytvoriť priestor na zdravé erotické rozhovory je nesmierne náročné. Na prvý pohľad to možno neznie ako ťažká úloha, generatívna AI tým však vstupuje do oblasti, v ktorej by musela robiť skutočne ľudské rozhodnutia. Musela by vedieť rozlíšiť, aký erotický rozhovor je ešte etický a kedy chce človek prekročiť neprípustnú hranicu. Mala by napríklad rozpoznať akékoľvek známky pedofílie a takémuto obsahu sa vyhnúť. Náročné je aj zaručiť, aby k tomuto režimu nemali prístup maloletí.
Systém OpenAI na overovanie veku v testoch stále príliš často zlyháva. Údajne v 12 prípadoch zo 100 vyhodnotí deti ako dospelých, čím by mohli získať prístup k režimu erotických rozhovorov.
Ak v ochrane erotického režimu ChatGPT zostane akákoľvek medzera, OpenAI si tým na seba namaľuje terč. A môžeme si byť istí, že hneď po spustení by sa na novinku vrhlo množstvo ľudí s cieľom nájsť v nej bezpečnostné diery.
OpenAI si najalo poradenskú spoločnosť a nechalo vypracovať analýzy rizík. Jeden zo zainteresovaných anonymne prezradil, že podľa správy spoločnosť režimom pre dospelých v ChatGPT vytvára „sexi asistenta pri samovražde“. Narážal tým na to, že pri ChatGPT už existuje riziko nabádania ľudí na samovraždu a spojenie s erotickými rozhovormi toto nebezpečenstvo výrazne zvyšuje.
Sme zvedaví, kedy OpenAI osobitný režim rozhovorov sprístupní. Pre tých, ktorí takúto možnosť hľadajú medzi nástrojmi generatívnej AI, môže byť vhodnou voľbou Grok. Spoločnosť xAI totiž k tejto otázke pristúpila podstatne voľnejšie než OpenAI. Musk niekoľko dní pred 17. marcom vyhlásil, že aj jeho nástroj na generovanie obrázkov a videí povoľuje obsah, aký môžu ľudia vidieť vo filme pre dospelých.
