Vijil пусна Diamond Adaptive Red Teaming for Agents (DART) — автоматизирана система за тестване, която открива уязвимости в сигурността и нарушения на политиките в корпоративни AI агенти. DART използва свои собствени множество атакуващи агенти, за да сондира защитите на целта с многостъпкови атаки, които се обучават и адаптират тактиките си в рамките на отделните стъпки, епизоди и взаимодействия. Чрез DART разработчиците на изкуствен интелект и инженерите по сигурност на приложения могат да откриват повече проблеми в цялата си мрежа от агенти в сравнение с инструменти и услуги за ред тийминг (red teaming), които използват статични подкани за тестване.

Gartner оценява, средностатистическа глобална компания от Fortune 500 ще използва над 150 000 агента до 2028 г., в сравнение с по-малко от 15 през 2025 г. Екипите по AI инженерство и управление на AI нямат капацитета или бюджета да тестват всички тези агенти ръчно. В същото време авторите на заплахи все по-често внедряват свои собствени агенти за извършване на продължителни многостъпкови атаки срещу корпоративни AI системи.

Съществуващите инструменти за ред тийминг се опитват да съвпаднат с модела на познатите атаки, но не успяват да поддържат темпото, камо ли да разработват нови стратегии и тактики за заобикаляне на защитите на целевия агент. Повечето от тях не правят нищо повече от това да проверяват резултата на агента спрямо статичен набор от атаки. Те тестват езиковия модел и чат интерфейса. Освен това те се изпълняват под наблюдението на външни консултанти, извън цикъла на разработка на агента, често само дни преди внедряването, което затруднява разработчиците да отстранят критичните и важни констатации навреме за пускането на продукта.

DART е различен. Той позволява на екипите по AI да тестват целия агент — използването на инструменти, паметта и многостъпковото поведение — чрез атаки, които се адаптират към целевия агент в неговата собствена среда, вместо да разчитат на фиксиран сценарий. Той комбинира мащаб и скорост с дълбочина и дискретност, за да генерира вълни от многостъпкови атаки, които изследват и експлоатират слабостите на целевия агент. DART оценява отговора на агента, коригира тактиките си и опитва отново толкова пъти, колкото потребителят е посочил. Не е необходимо да му се казва за какви уязвимости да следи. Той ги открива самостоятелно.

Основните възможности на DART включват:

  • Персонализирано покритие на риска: Предоставя се с предварително дефинирани таксономии, базирани на изследвания на OWASP, MITRE и Vijil, но може да бъде изведен от всеки специфичен за дадена организация каталог с рискове.
  • Адаптивно верижно свързване на атаки: Използва верига от атаки през стъпки и епизоди, за да изследва повърхността за атака на целта и да експлоатира нейните слабости.
  • Удобни за разработчиците инструменти: Достъпен чрез плъгин за агенти за кодиране, включително Claude Code и Codex, DART работи с всяка рамка (framework) за агенти или платформа за внедряване на агенти, за да генерира одитируем доклад, който да се използва както от инженерните екипи, така и от екипите по съответствие.
  • Готов за DevOps работен процес: Работи автоматично в голям мащаб под постоянно натоварване, с ограничаване на скоростта (rate limiting), повторни опити и конфигуриране на модела според ролята, внедряван чрез API като част от CI/CD процеса на AI екипа.
  • Гъвкавост при внедряване: Работи в собствен VPC на клиента или изцяло на място (on-prem), в изолирани (air-gapped) и регулирани среди.

В скорошна оценка с използване на бенчмарка DecodingTrust-Agent, DART постигна процент на успех на атаката, който е 1,5 пъти по-висок от този на най-близкия му конкурент. DART превъзхожда резултатите на конкурента в девет от дванадесет задачи за корпоративни агенти, обхващащи области като CRM, код, обслужване на клиенти, медицина, научни изследвания и пътувания.

„Вашият персонализиран AI агент, който има достъп до вашата поверителна информация и може самостоятелно да предприема действия с важни последствия, изисква цялостен и персонализиран подход към контрола на качеството“, каза Вин Шарма, главен изпълнителен директор на Vijil. „Има голяма разлика между агент, който изглежда готов в демонстрация, и такъв, който доказва своята надеждност и сигурност под натиск. DART затваря тази празнина, спестявайки седмици усилия и десетки хиляди долари в сравнение с ръчни ангажименти за ред тийминг, генерични бенчмаркове и прототипи с отворен код.“

DART е нова възможност на Vijil Diamond, част от платформата Vijil за изграждане на устойчивост в AI агенти. След като DART идентифицира слабостите на агента, други модули от платформата Vijil извършват анализ на първопричините, внедряват защитни механизми (guardrails), базирани на политики, за защита на агента от атаки, и предлагат промени в кода за отстраняване на откритите от DART проблеми.

Платформата Vijil се състои от индивидуално използваеми модули, обхващащи всяка фаза от жизнен цикъл на агентите. Vijil Discover хвърля светлина върху нерегламентирания AI (shadow AI), като открива и идентифицира агенти където и да се намират. Vijil Diamond открива дефекти в агентите, преди те да бъдат пуснати в реална среда. Vijil Dome осигурява съответствие с политиките на организацията в производствена среда. A Vijil Darwin непрекъснато подобрява агентите с появата на нови потребители, модели и методи за атака. Заедно те гарантират, че агентите остават устойчиви и в най-враждебните условия.