Сигурността на AI агентите преминава през позната крива на зрялост: внедряване, след това видимост и накрая – контрол. Това, което открихме колективно обаче, е че налагането на принципа на най-малките привилегии за AI агентите е по-трудно, отколкото някога сме си представяли. Ето защо съществуват толкова много подходи – от филтриране на подканите (prompts) до контроли за достъп на ниво идентификация. Изводът, до който стигнахме заедно, е че разбирането на намерението на AI агентите е от съществено значение за тяхната защита. Това не е лесно, но е единственият път напред.

Организациите подхождат към това предизвикателство с различно ниво на зрялост. За много от тях настоящата цел е просто да открият AI агентите, които вече работят в рамките на бизнеса. Това е необходима първа стъпка. AI агентите се появяват в SaaS платформи, среди за разработка, облачни работни процеси, системи за поддръжка на клиенти, инструменти за производителност и вътрешни приложения. Някои от тях са одобрени, а други – не.

Но самото откриване не е достатъчно полезно. AI агентите не са пасивни; те разсъждават, планират, извикват инструменти и API, осъществяват достъп до данни и предприемат действия без намесата на човек. Рискът не е в това, че организацията разполага с твърде много агенти. Рискът е, че тези агенти могат да работят в различните системи без последователна идентичност, намерение, собственост и прилагане на правилата. Съществуват и различни видове AI агенти, като всеки от тях изисква различен подход за защита.

Последните насоки за внимателно внедряване на услуги с агентен AI изясняват въпроса: агентният AI въвежда рискове, свързани с привилегиите, удостоверяването, отчетността, дизайна и поведението, на които екипите по сигурност трябва да обърнат внимание, преди тези системи да станат част от критичните работни процеси. Видимостта е стартовата линия, но налагането на контрол е това, което наистина има значение.

Повечето програми за сигурност започват с въпроса: „С какво разполагаме?“. Това имаше смисъл за облака, SaaS средите, крайните устройства, идентичностите и уязвимостите. То има смисъл и за AI агентите.

Но рискът да се спре само до видимостта при AI агентите е по-голям, отколкото във всяка друга среда от списъка, поради скоростта, с която се създават AI агентите, до какво имат достъп и как могат да бъдат споделяни.

Инвентаризацията на AI агентите, която не е свързана с налагане на контрол, се превръща в просто още един статичен списък с активи. Тя може да покаже, че даден агент съществува, но не може да ви каже дали достъпът на агента е подходящ, дали поведението му съответства на неговата цел, дали собственикът му остава отговорен или кога разрешенията му трябва да бъдат отнети при промяна на условията. За AI агентите видимостта без налагане на контрол създава опасен вид увереност, при която е лесно да се чувствате контролиращи ситуацията, когато реалността е съвсем различна.

Защо AI агентите нарушават статичните модели за достъп

Традиционният контрол на достъпа предполага определено ниво на предвидимост. Управлението на идентичността и достъпа на хора (IAM) е най-лесно, тъй като всеки човек има определена длъжностна функция. Управлението на нечовешките или машинните идентичности е по-сложно, но служебният акаунт все пак поддържа дефинирано работно натоварване. Тези предположения не са перфектни, но дадоха на екипите по сигурност основа за роли, права, одобрения, прегледи на достъпа и периодично почистване.

AI агентите далеч не са статични. Агентът се дефинира по-малко от фиксиран работен процес и повече от цел. Той може да интерпретира инструкции, да извиква различни инструменти и да адаптира действията си въз основа на контекста. Два агента с подобни разрешения могат да имат много различен рисков профил в зависимост от това какво се опитва да постигне всеки от тях.

Статичният достъп не е достатъчен, тъй като AI агентите е по-вероятно да бъдат използвани по начини, които не са били предвидени при предоставянето на достъпа. Проблемът невинаги е в злонамереното поведение, а в двусмислието, което представлява риск – например задача, която се разширява извън първоначалната си цел.

Въпросът, който екипите по сигурност трябва да зададат, е не само „до какво има достъп този агент?“. По-важният въпрос е: Какво трябва да бъде разрешено на този агент да прави при тези условия и за тази цел? Това е въпрос на налагане на контрол.

Налагането на контрол започва с по-добро разбиране

Ефективното налагане на контроли върху AI агентите не може да бъде просто прикрепено към базов инвентар без контекст. Екипите по сигурност трябва да съпоставят информацията за собствениците, потребителите, идентичностите, системите, разрешенията и намеренията, преди да могат да дефинират смислени контроли.

Това означава разбиране на агента в няколко измерения:

  • Собственост: Кой притежава агента? (Това може да бъде по-трудно, отколкото си мислите.)
  • Потребители: Кой използва агента?
  • Идентичност: Кои идентичности, токени, тайни, OAuth права и служебни акаунти използва агентът?
  • Намерение: Какво трябва да постигне агентът?
  • Достъп: До кои системи, приложения, хранилища за данни, API и инфраструктура има достъп?
  • Употреба: Какво всъщност е направил агентът и колко често?
  • Произход: Как е създаден агентът?
  • Жизнен цикъл: Активен ли е агентът, неактивен ли е или вече не е свързан с първоначалната си цел?

Това е областта, в която много организации срещат трудности, тъй като контекстът на агентите е разпръснат. Данните за идентичността живеят на едно място. Разрешенията за облака са другаде. Интеграциите на SaaS имат свои собствени модели. Инфраструктурата като код (IaC) може да разкрие предвидените модели на внедряване, но този контекст...