Microsoft предупреждава организациите да третират AI агентите като потенциални вътрешни рискове – не защото по подразбиране са злонамерени, а защото разполагат с достъп до фирмени данни, приложения и инструменти и могат да извършват действия въз основа на този достъп с висока скорост.

Предупреждението, публикувано на 19 октомври 2026 г., идва в момент, когато бизнесът използва агенти за задачи като писане на код, преглед на документи и обработка на разходи.

Действията на даден агент могат да се променят при промяна в неговите инструкции, данни или работен контекст. Той може да допусне грешка, да изпълни вредни указания, скрити в документ, или да бъде компрометиран.

Тъй като агентите могат да оперират в свързани системи, едно несигурно действие би могло да разкрие чувствителна информация или да промени бизнес записи, преди човек да забележи. Тезата на Microsoft не е, че всеки агент е опасен, а че организациите не бива да приемат, че даден агент винаги ще се държи според очакванията.

Рискът нараства, когато агентът получи по-голям достъп, отколкото изисква задачата му. Например агент, използван за преглед на финансови отчети, може да има нужда да чете подадените формуляри и да проверява фирмените правила. Той обаче не трябва автоматично да наследява всички права на служителя, който го е конфигурирал. Ако срещне скрити инструкции във файл или се опита да предприеме несвързано действие, механизмите за контрол на сигурността трябва да са в състояние да ограничат възможностите му.

AI моделите като вътрешни заплахи

Microsoft посочва, че тези механизми за контрол трябва да работят извън самия AI модел. Моделът може да предоставя отговори или планове, но отделни системи за сигурност трябва да решават до какви данни има достъп и какви действия може да предприема.

Това е от съществено значение, тъй като моделът не бива да има възможност да променя или заобикаля защитите, които го управляват. Главният изпълнителен директор на Microsoft Сатя Надела описва този подход като разделяне на предоставянето на интелигентност от правомощието за действие.

В подкрепа на този подход Microsoft обяви планове за разширяване на откриването и контрола на агенти чрез Project Perception и Microsoft Agent 365. Компанията заявява, че добавя поддръжка за още 35 типа локални агенти, с което общият им брой достига 60, и разширява Microsoft Entra Agent ID, така че агентите да имат идентичности, отделени от тези на служителите, които ги създават. Това разделение може да помогне на екипите по сигурност да следят кой притежава даден агент и да разграничават неговите действия от тези на конкретен човек.

Microsoft описа също Dynamic Permissions, Dynamic Agent Risk и Dynamic Conditional Access за агенти. Предложените контроли ще предоставят на агентите само достъпа, необходим за изпълнение на дадена задача, и ще го адаптират при промяна на нивото на риск.

Например дадена организация би могла да позволи на агент да продължи да чете информация, но да му забрани да прави промени, да ограничи системите, до които достига, или да изисква одобрение от човек преди извършване на чувствително действие. При по-висок риск агентът може да бъде изолиран или спрян.

Компанията представи и Guardian Agents, предназначени да помагат на екипите по сигурност да наблюдават активността на агентите и да реагират на промени с машинна скорост. Според Microsoft хората ще продължат да задават правилата и да запазват контрол върху важните решения, докато Guardian Agents ще могат да разследват сигнали и да прилагат разрешените защитни мерки. Обявените мерки описват планирания подход за сигурност на Microsoft, а не гаранция, че всяка свързана с агенти заплаха може да бъде предотвратена.

Посланието към екипите по сигурност е да вградят надзора върху агентите още от самото начало на внедряването им. Това означава проследяване на съществуващите агенти, задаване на ясни идентичности, ограничаване на правата, мониторинг на активността и осигуряване на независим начин за прекратяване на опасни действия.