Тъй като базираните на агенти решения все по-често се внедряват във практически всеки аспект на модерната оперативна среда, организациите са изправени пред експоненциален растеж на оперативните субекти, които се нуждаят от надзор. По-конкретно, с преминаването на работните структури от модел, ориентиран към хората, към такъв, ориентиран към агенти, историческите оперативни модели като RBAC трябва да бъдат преобразувани в по-дискретни атомарни елементи, които могат да се мащабират, за да отговорят на нуждите от сигурност и управление на нарастващия агентен оперативен модел.
Досега политиките за контрол на достъпа до данни и системи бяха съобразени със специфичните работни отговорности. Този „ориентиран към хората“ модел създаваше контекст, който след това можеше да се приложи към контролите за сигурност и управление, за да се определят подозрителни, злонамерени или непредвидени системни поведения.
Тъй като този ориентиран към хората процес се деконструира и AI агентите се изграждат наново, за да изпълняват нови единици работа, ограничени до машината, контролите за достъп трябва да станат по-детайлни и динамични, въз основа на намерението и контекста на използване от конкретния агент. Тъй като контекстът се променя непрекъснато, агентните контроли за сигурност и управление ще изискват достъп до актуални контекстни политики и оперативни ограничения.
Предизвикателството е, че това контекстно знание не е било вградено в системите до момента, а вместо това е било притежавано и управлявано от хората, отговорни за отделните функции, в зависимост от техните роли и отговорности.
И така, докато AI моделите стават все по-способни в решаването на проблеми и планирането на действия, без необходимото ниво на контекстни политики и оперативни изисквания, агентите нямат възможност да съгласуват правилно сигурността и управлението. В резултат на това агентите потенциално могат да вземат грешни решения без подходящия контекст около самоличността, политиката, състоянието на работния процес и историята на решенията.
Тази празнина в сигурността и управлението става все по-видима, тъй като AI агентите, първоначално проектирани и внедрени да работят в рамките на тесни сценарии на употреба, с течение на времето се използват в допълнителни сценарии. Тази динамика е подобна на човек, който поема нови отговорности в нова среда със собствени политики и процедури, което изисква промяна в контекста за даденото лице.
Осигуряване на AI агентите с необходимия контекст за поддържане на изискванията за сигурност и управление: Откъде идва този контекст
Традиционните решения за автоматизация имат дълга история в предоставянето на статична рамка за дефиниране на работни процеси, дървета на решенията и модели на собственост за всеки работен процес и единица работа. Тези системи са проектирани да поддържат и подобряват сътрудничеството между отделните хора и екипи, ескалацията и управлението на резултатите.
В този процес инструментите за автоматизация на работния поток са проследявали модели на използване, контекстни зависимости и шаблони, което води до значително контекстно разбиране на политиките и оперативните модели.
Тъй като светът преминава към по-агентна AI оперативна среда, този богат набор от данни е готов за използване за предоставяне на агентите на контекст относно зависимостите, изискванията за достъп до данни и функции, регулаторните изисквания и видимостта на риска.
Това създава възможност за организациите да извлекат богат, исторически контекст и да го направят достъпен за нови решения, базирани на агенти, които заменят предишни работни процеси, управлявани от хора.
Заслужава да се отбележи, че този контекст се променя и ще продължи да се променя непрекъснато, което изисква текущо управление и поддръжка на този важен набор от данни. Занапред всяко AI взаимодействие, резолюция, одобрение и ескалация ще укрепват по-богатото разбиране за това как работи дадена организация.
Архитектурни съображения
С развитието на архитектурата на агентите, моделите за комуникация между агенти се превръщат в основа на оперативните модели. Сървърите Model Context Protocol (MCP); Agent2Agent (A2A); Agent Communication Protocol (ACP) и други възникващи механизми са от първостепенно значение за осигуряване на достъп до функции и набори от данни.
Доставчиците на решения за работни процеси и автоматизация развиват платформи, за да позволят на агентите да достъпват критична контекстна информация.
Тъй като AI решенията все повече заменят традиционните решения за автоматизация и организациите реконструират системи и работни процеси, изискванията за надзор, управление и сигурност се променят и увеличават. Изискванията към персонала също се променят, като се изискват нови умения за оперативно управление за съвместна работа с решения, базирани на агенти. Въпреки че това, което е необходимо за поддържане на управлението и сигурността за агентните решения, все още възниква, изискванията за управление и сигурност, базирани на хора, продължават да се развиват с развитието на машинно-човешкия оперативен модел.
Заключение
Тъй като AI моделите стават все по-интелигентни и продължават да превръщат интелигентността в масов ресурс, заобикалящата среда на моделите се превръща в оскъден ресурс:
- Контекстът на предприятието, който обосновава AI в реалността.
- Сигурността и управлението, които го правят безопасен.
- Инфраструктурата за изпълнение, която превръща прозрението в действие.
Водещите доставчици на модели все повече признават, че истинският пробив идва от контекста и интеграцията, обвиващи модела.
Колкото по-способен става агентът, толкова повече той зависи от разрешаването на самоличността, правата за достъп, ограниченията на работния поток, управлението на интеграцията, доказателствата за одит и управлението на промените. Освен това контекстът не е пълен, без да се разбере как дадена организация работи ежедневно: Кой с кого е свързан, кой за какво си сътрудничи и какви умения съществуват и къде?