Microsoft opäť upozornil, že používanie AI agentov prináša riziká. Nedá sa im úplne dôverovať, a preto sú potrebné určité preventívne opatrenia. Spoločnosť napriek tomu aktívne vyvíja a sprístupňuje čoraz viac funkcií, vďaka ktorým už Copilot dokáže vykonávať rôzne úkony priamo v počítači používateľa. Samozrejme, len ak na to dostane príslušný súhlas. Najnovší oficiálny príspevok sa venuje práve tomu, že modely kategórie Frontier ani AI agenti, ktorí na nich bežia, nie sú sami osebe spoľahliví.
Čo teda robiť, keď sa rozhodneme používať AI agentov a navyše im udelíme osobitné oprávnenia, ktoré predstavujú riziko? Podľa Microsoftu treba najmä vo firemnom prostredí nasadiť ochranných agentov Guardian Agent, ktorí fungujú ako bezpečnostný dozor. Majú prehľad o práci jednotlivých AI agentov a môžu skontrolovať každý ich krok ešte pred vykonaním konkrétnej operácie. Monitorovanie bežiacich AI agentov a zaistenie ich bezpečného fungovania si vyžaduje nepretržitý dohľad. Zároveň treba dôsledne nastaviť oprávnenia a zabezpečiť koncové zariadenia, sieť, cloud aj prostredie, v ktorom agenti bežia.
Na tento účel vznikol Project Perception, predstavený v júli 2026. Jeho úlohou je udržiavať jednotlivých AI agentov pod kontrolou pomocou oprávnení, kontajnerov a jasných pravidiel, pričom každému agentovi priraďuje aj identitu. Počas ich činnosti je potrebné aj dynamické vyhodnocovanie rizík. Dohľad môže zabezpečovať celá skupina ochranných agentov Guardian Agent, ktorí sa v reálnom čase starajú o bezpečné fungovanie v súlade s očakávaniami.
Project Perception umožňuje usmerňovať AI agentov v reálnom čase a spätne preskúmať, čo jednotliví agenti robili. Dá sa tak zistiť, prečo bola konkrétna operácia vyhodnotená ako riziková, a následne podľa toho upraviť bezpečnostné pravidlá. Dohľad v reálnom čase umožňuje rýchlo reagovať na bezpečnostné incidenty. Odborníci z nich môžu vyvodiť príslušné závery a zvýšiť tak bezpečnosť prevádzky. Potrebné je aj lepšie porozumieť fungovaniu jednotlivých modelov: dohľad by sa nemal obmedzovať len na vstupné a výstupné tokeny, ale mal by zahŕňať aj „uvažovanie“, respektíve reťazec tokenov uvažovania.
Na tomto základe sa dá skutočne pochopiť, či bol zámer modelu v súlade s cieľom agenta. Transparentnosť však nenahrádza obmedzenia. Jej úlohou je skôr umožniť účinnejšie a inteligentnejšie nastavenie hraníc fungovania, aby agenti vykonávali svoje úlohy bezpečnejšie. Tento prístup je dôležitý aj pre sledovateľnosť činnosti a vyvodzovanie zodpovednosti. Práve to má byť ďalší krok pri zvládaní rizík spojených s autonómnymi AI agentmi pôsobiacimi vo vnútri organizácie a pri zvyšovaní bezpečnosti ich fungovania.
Spoločnosť napriek tomu pokračuje vo vývoji a zavádzaní AI funkcií. Nedávno síce oznámila, že mierne zjednoduší kontextovú ponuku OneDrive, aby bola prehľadnejšia a lepšie sa používala. V rámci tejto úpravy z nej odstraňuje 8 AI funkcií, tie však nezaniknú a zostanú dostupné inde. Dúfajme, že Microsoft bude pri AI agentoch integrovaných do vlastného operačného systému postupovať rovnako obozretne ako pri Project Perception. Prioritou by malo byť vytvorenie bezpečných podmienok na ich fungovanie, až potom pridávanie ďalších AI funkcií a všestranných agentov. Rôzne rizikové funkcie by mali prísť na rad až vtedy, keď ich už bude možné „držať na uzde“. Pokrok je, samozrejme, potrebný, musí však prebiehať v rozumných a bezpečných medziach.
