- Споделяне
Агентният изкуствен интелект (agentic AI) се очертава като основно работно натоварване в рамките на AI средата на организациите. Въпросът сега е дали тези агенти ще изпълняват точно това, което възнамерявате, а няма да излязат извън контрол и да създадат нови заплахи за сигурността. Агентният AI усложнява контрола на идентичността и управлението, пред които са изправени организациите, а в условията, при които агенти създават други агенти, компаниите трябва да обмислят възможности за ефективно управление и поддръжка на бизнес нуждите, като същевременно гарантират надеждна сигурност.
Агентният изкуствен интелект може и да не е основното AI натоварване днес, но скоро ще бъде (като логическият извод, разбира се, запазва челната позиция). В един идеален свят тези агенти биха изпълнявали задачите точно по план. Но светът не е идеален и вече има случаи, в които агенти излизат извън контрол, развиват собствено възприятие за поставената задача и се превръщат в атакуващи. Но дори когато агентът няма злонамерени намерения, контролът и видимостта остават от първостепенно значение — не само за сигурността, но и за оптимизирането на разходите за токени, мониторинга на обхвата на контрол и поддържането на непрекъсваемостта на бизнеса.
Организациите вече са изправени пред задачата да разработват и внедряват сигурни решения с агентен AI с надеждни вградени функции за защита, които могат да бъдат управлявани правилно.
Агентите не са потребители
Изкуственият интелект може да бъде един от най-добрите инструменти за киберсигурност. В същото време той може да бъде и едно от най-опасните оръжия срещу критични ИТ ресурси. „Неудобната истина е, че ако можете да използвате изкуствен интелект, за да откривате уязвимости в собствените си продукти, киберпрестъпниците също могат да го направят“, пише Джон Грийн (Jon Green), главен технологичен директор за мрежови решения в HPE.
Как тогава да създадете агенти с надеждни вградени функции за защита, които да се управляват лесно и ефективно? Как да внедрите предпазни механизми, които прецизно да следят поведението им? При агентния изкуствен интелект фундаменталната предпоставка е необходимостта от контрол върху ключови елементи като изпълнението на код, достъпа до данни и извикванията на API — а това изисква стабилна и добре изградена основа за сигурност.
Агентите притежават идентичност, но тя се различава от тази на обикновените потребители. Поведението на агентите не може да се управлява със същите процеси и контроли, както при хората. Агентите действат от името на потребителя. И да, понякога те излизат извън контрол и ескалират привилегии и задачи по начини, които разработчиците никога не са предвиждали, но това е само един от видовете рискове за сигурността, на които трябва да се обърне внимание.
Когато са разработени правилно, всеки агент работи със набор от контроли върху идентификационните данни. Този набор от механизми за контрол на идентичността би трябвало да ограничи потенциалното неконтролирано разрастване или допълнително нежелано поведение — стига защитите да са внедрени безупречно. Това обаче се постига изключително трудно.
Предизвикателства при разработката на сигурни агенти
Много дигитални активи са станали толкова комплексни и разраснали се, че ефективното управление на AI сигурността е трудно — дори при най-добрите сценарии.
Протоколите за сигурност започват още с разработката на агента. Съществуват редица технологии, които програмистите използват за създаване на кода, изпълняван като агент. След това е необходима изолирана среда или контролен филтър, където агентът да бъде изпратен за преглед и отстраняване на всякакви дефекти в кода. Процесът на разработка включва също и функция за политики, която насочва възложените задачи и дефинира защитните рамки на агента, което на теория би трябвало да предотврати изпълнението на нерегламентирани действия.
Въпреки това, дори внимателно програмиран агент с легитимни цели може да функционира по рисков и пагубен начин. Ето защо поведението на агентите трябва да се наблюдава от многостепенни инструменти за защита в цялата ИТ инфраструктура — концепция, която експертите по сигурност наричат „задълбочена защита“ (defense in depth). ИТ екипите и екипите по киберсигурност трябва да имат видимост върху цялата ИТ среда. Това включва наблюдение и засичане на мрежово ниво, тъй като именно там активността на агентите е видима в почти реално време. Мрежата предоставя пряка възможност за наблюдение на поведението на агентите и сигнализиране при възникване на нерегламентирана дейност.
Друг сериозен риск при управлението е т.нар. нерегламентиран AI (shadow AI). В този случай проблемът не е толкова в излизането на агентите извън контрол, колкото в това, че потребителите използват лесни за употреба платформи за създаване на агенти извън знанието и контрола на ИТ отдела. Неодобрената разработка и употреба позволяват на AI агентите да действат в системата без надзор, което затруднява решенията за сигурност при защитата на организацията.
Агенти от трети страни
Автономните агенти и нерегламентираните ИТ ресурси не са единствените рискове. Агентите от трети страни също представляват заплаха за сигурността, тъй като по дефиниция идват извън пределите на организацията и нейните механизми за контрол. Дори ако са разработени специално за компанията, външните агенти могат да не отговарят на вътрешните стандарти за сигурност или да се изпълняват на инфраструктура, която не е собственост на организацията.
При обезопасяването на външни агенти за организацията процесът трябва да подлежи на същите стриктни тестове за сигурност и валидации, през които преминават и вътрешните разработки, така че да разполагат със същите защитни рамки и механизми за контрол.
Заключение
Защитните рамки задават границите и ограниченията за AI агентите, но цялостната сигурност изисква ешелонирана защита, която осигурява видимост и следи агента на всяка стъпка от неговия път. Видимостта обаче е само първата стъпка. ИТ инфраструктурата трябва също да прилага политики, да ограничава правата на достъп и да защитава данните, когато стандартните контроли за сигурност на агентите не са достатъчни. Екосистемата за сигурност — включително ИТ инфраструктурата, сървърите, системите за съхранение на данни и мрежовото оборудване — трябва да функционира съвместно, за да предостави всеобхватен подход към сигурността на агентния изкуствен интелект.