Вчера Varonis анонсира Agent Intent-Based Access Control (IBAC) – нова възможност в Varonis Atlas, която позволява на бизнеса да свързва AI агенти с техните фирмени данни със защитни механизми, предотвратяващи опасно или несъвместимо с политиките поведение.

Агентите попадат в новините с това, че излизат извън контрол, разкриват чувствителни фирмени данни и, в един от случаите, изтриват цяла продукционна база данни.

Agent IBAC сравнява инструкцията, която даден агент е получил, с неговите разсъждения и инструментите и данните, до които той се опитва да достигне, след което реагира в реално време на действия, които не съвпадат, включително чрез известяване или блокиране.

Когато даден агент премине границата, Atlas може да постави под карантина самоличността зад него и да блокира всяко следващо действие за определен времеви прозорец.

Agent IBAC може да бъде настроен да предприема подходящи действия въз основа на потенциалното въздействие. Например:

  • Явното отклонение застрашава данните: Потребител иска от агент да провери времето. Вместо това агентът задейства инструмент за миграция. Това е явно несъответствие между намерение и действие. Agent IBAC може автоматично да блокира извикването на инструмента.
  • Отклонение без риск: Потребител иска от агент да провери времето. Агентът настройва ежедневно повтарящо се напомняне, вместо да предостави еднократен отговор. Действието на агента се е отклонило, но няма застрашени данни. Agent IBAC може просто да регистрира отклонението в дневника, вместо да прекъсва прекалено ревностния опит за съдействие.

С Agent IBAC Varonis Atlas дава на предприятията увереност, че техните агенти действат в рамките на планирания обхват, без излишно да забавят продуктивността. Agent IBAC е критичен компонент от сигурността на агентите и основна част от цялостния подход на Atlas към сигурността на изкуствения интелект.

В Varonis изграждаме слоя за сигурност, който позволява на предприятията да кажат „да“ на агентите. Изгледайте тази кратка 3-минутна демонстрация, за да видите Agent IBAC в действие.

Агентите не чакат разрешение

Агентите се нуждаят от широк достъп до данни и инструменти, за да бъдат полезни, което е точно причината да бъдат рискови. Контролът на достъпа на базата на роли никога не е бил създаван, за да оценява какво прави една нечовешка самоличност с достъпа, с който разполага.

Статичните контроли не могат да спрат агент, който намира начини да ги заобиколи изцяло, като например да повиши собствените си привилегии, да извиква инструменти и да извършва действия с данни, до които никога не е трябвало да се докосва. Разрешенията на агентите трябва да се прилагат по време на изпълнение.

„Въпросът вече не е „Може ли даден потребител да осъществи достъп до тези данни?“, а „В този контекст трябва ли на този агент да бъде разрешено да предприема действия върху тези данни?“, обяснява Рон Бенатан, вицепрезидент по AI & Data Strategy в Varonis.

Breach at the Beach: The Ultimate Entra ID CTF

Независимо дали сте в червения отбор, синия отбор или имате нужда да спечелите CPE кредити, това е вашият шанс да се учите чрез практика. Breach at the Beach е безплатна и достъпна за игра онлайн на адрес: https://breachatthebeach.com

Agent IBAC затваря пропастта между това, което на даден агент е разрешено да прави, и това, за което е проектиран да прави. Отклонението се определя отчасти чрез мониторинг на поведението.

Agent IBAC оценява всяко действие, което агентът предприема по време на дадена сесия, и сравнява тези действия с инструкцията, която е задействала агента, независимо дали тази инструкция е дошла от човек, системен промпт или друг агент.

Тъй като Atlas вижда пълния контекст около дадено действие, той не разчита на общи ограничения. Чувствителността на засичане и предприетото в отговор действие могат да бъдат фино настроени по подходящ начин.

  • Засичане на отклонение в намеренията: Сравнява инструкцията, която даден агент е получил, с неговите разсъждения и инструментите, които извиква, с настройки за снизходителна, балансирана и строга чувствителност.
  • Оценка на цялата сесия: Преглежда всеки промпт, отговор и извикване на инструмент в рамките на дадена сесия, за да улови отклонения, които се натрупват постепенно, включително опити за jailbreak в няколко стъпки. Екипите могат също така да пишат свои собствени политики за сесиите на достъпен език.
  • Защитни стени по време на изпълнение: Известяване, блокиране, модифициране, регистриране в дневник или пренасочване на действие към човек за одобрение, конфигурирани според политиката.
  • Карантина: Блокира самоличност или сесия за времеви прозорец, определен от клиента, с администраторски контроли за отмяна, удължаване или превръщане на мярката в постоянна.
  • Пълна одитна пътека: Записва всеки промпт, отговор и изпълнение на инструмент заедно с действието, предприето от Atlas, за екипите по сигурност, управление и съответствие.

Важно е да се отбележи, че Atlas стои на пътя между агента и модела, който го управлява. Всеки промпт, всеки отговор на модела и всяко извикване на инструмент преминават през Atlas, преди да достигнат своята дестинация.

Това е, което прави прилагането на правилата възможно в реално време. Atlas не чете регистрационни файлове постфактум. Той е на самия път на данните и може да спре дадено действие преди неговото изпълнение.

Agent IBAC използва LLM оценител, същият двигател зад всички защитни механизми на Atlas, за да прецени дали действието на даден агент следва от инструкцията, която му е била дадена.

Засичането на отклонение в намеренията включва определяне на това дали агентът осъществява достъп до данни, до които не трябва, дали прави опити за неоторизирано източване или изтегляне на данни, или дали разширява обхвата отвъд това, което потребителят е възнамерявал.

Оценителят чете жизнения цикъл на агента: разсъжденията, които агентът генерира, инструментите, които избира, и параметрите, които им предава. След това той задава прост въпрос: „Съответстват ли тези стъпки на заявката?“

Чувствителността може да се настройва в различни граници.