Представено от EDB
Тъй като предприятията предоставят на AI агентите по-голяма автономност — способността да планират, решават и действат в различни системи, без човек да одобрява всяка стъпка — един труден въпрос излиза на преден план при всеки преглед на архитектурата: Когато даден агент се опита да извърши действие, за което никога не е бил оторизиран, какво всъщност го спира?
Това са вашите агенти, работещи на вашите модели, докосващи вашите данни във вашата инфраструктура — и отговорността за това, което правят, е ваша. Тази отговорност не може да бъде поета със закъснение или с набор от абстрактни политики, които съществуват на хартия, но не и на практика. Агентите се нуждаят от правила в контекста на момента, защото те не преценяват сами действията си.
Представете си едно просто правило: „Никога не отваряй вратата на колата“. Следвано буквално, агентът никога не би могъл да влезе или излезе от колата. Но ако промените контекста (колата току-що е катастрофирала, има пожар, някой е ранен и трябва да излезе), тогава правилото, което действително искате, е точно обратното. Контекстът в конкретния момент е всичко. Искаме от агентите да правят интелигентни неща; това изисква интелигентни правила.
Първият инстинкт е да се добавят защитни огради около агента: инструкции, политики и мониторинг, разположени над модела. Тези механизми имат значение, но споделят структурно ограничение: правилото за вратата на колата е правдоподобно точно до момента, в който действително трябва да решите дали да отворите вратата. Контролите на ниво агент са толкова надеждни, колкото предвидими са резултатите на агента, а автономността е именно свойството, което прави тези резултати трудни за предвиждане. Управление, което зависи от прегледа на дадено действие преди то да се случи, не може да поддържа темпото на система, която действа за милисекунди в много системи едновременно.
Управлението трябва да стане изпълнимо и да се прилага там, където агентите действително вършат своята работа: на нивото на оперативните данни, в контекста и точно в момента, в който това се случва.
Нивото на данните е точката на прилагане
Агентите създават стойност, като боравят с данни. Те ги заявяват, извличат, трансформират и все по-често действат въз основа на тях. Политика, която гласи, че даден агент не трябва да има достъп до определен клас данни, е смислена само ако системата може да откаже този достъп в момента, в който агентът го поиска. Освен това, принципът, че изкуственият интелект трябва да бъде одитируем, е смислен само ако организацията може да възстанови какво е направил агентът, какви данни е докоснал, от името на кой потребител е действал и какъв е бил резултатът. Когато управлението се осъществява на ниво данни, то е валидно независимо от това как е изграден агентът или как се държи той, защото контролът е свойство на самата база данни, а не обещание, дадено от агента.
Поведението на агента може да бъде вероятностно. Управлението не може
Предприятието не трябва да разчита на това, че даден модел ще избере да следва политиката. Политиката трябва да бъде наложена от системата. Това е разликата между надеждата, че даден злонамерен субект ще остане в границите, и изграждането на граници, които той изобщо не може да премине. Контролите, които правят това реалност, са тези, които много предприятия вече изпълняват на ниво данни: достъп на базата на роли и атрибути, сигурност на ниво ред и колона, класификация и маскиране, политика като код и пълни одитни пътеки. Това, което агентите променят, не е механизмът, а кого трябва да разпознае механизмът. Управлението на идентичността трябва да третира агента като самостоятелен субект, със собствена идентичност и декларирана цел при отварянето на сесията. След като целта е обвързана с идентичността, модулът за политики може да я оцени по същия начин, по който оценява ролята или отдела днес, а записът на случилото се може да улови не само кой е действал и какво е докоснал, но и какво е декларирал, че възнамерява да направи.
На практика това се свежда до девет контроля, групирани в три императива:
Прилагане
- Контрол на достъпа на базата на роли и атрибути, прилаган по време на заявката, както за агенти, така и за потребители.
- Динамично маскиране на колони, управлявано от същия път на политиките.
- Идентичността на агента като първокласен субект, с декларирана цел, обвързана при стартиране на сесията, и запазване на действащия потребител.
Проследяване и доказване
- Класификация и етикетиране, които управляват политиката.
- Одит на ниво сесия, който записва кой агент е действал, за кой потребител и под каква декларирана цел.
- Проследяване на произхода на данните по веригата, така че резултатът да може да бъде проследен обратно до заявката, която го е произвела.
Обединяване и укрепване
- Централизирано и преносимо управление на политиките.
- Шифроване в покой и при трансфер.
- Последователно прилагане в локални, облачни и суверенни среди или среди с въздушна междина (air-gap).
„Декларираната цел е това, което прави разликата. Тя се превръща в атрибут, който нивото за достъп вече разбира, оценяван в същия път на политиките като ролята и сигурността на ниво ред. Механизмът за прилагане не се променя. Това, което се променя, е, че целта на агента е част от това, което той оценява, и част от това, което записът доказва след това“, казва Приянка Джайн, вицепрезидент „Продуктов мениджмънт, управление на данни и AI“ в EDB. Където и да се намирате в пътуването си към внедряване на AI, прилагането на ниво данни е това, което ви позволява да се движите по-бързо, а не по-бавно. Контролите вече са в базата данни. Разликата е, че агентите сега...