Наблюдавайте работата на даден ИТ агент по дълга задача и ще видите бъдещето на корпоративната сигурност.

Погледайте как Claude работи по продължителна задача. Той може да прекара 4 минути в опити да прочете CSV файл, който се оказва папка, да се откаже, да напише скрипт за извеждане на съдържанието ѝ и накрая да постигне целта. Това работи. Но никога по начина, по който сте си го представяли в главата си.

Това е гадаене в голям мащаб и не е дефект. Така работят големите езикови модели (LLM) и затова са толкова ефективни. ИТ агентите разсъждават вероятностно, като избират следващото най-добро действие, наблюдават резултата и се адаптират. Този затворен цикъл ги прави мощни, но също така е и причината моделите за сигурност, изградени около предвидими работни процеси, да се провалят.

ИТ агентите с изкуствен интелект са проектирани да импровизират – именно това ги прави полезни. Но когато импровизацията е съчетана с широк достъп, всеки грешен завой се превръща в риск за сигурността.

И така, въпросът е следният: Как да защитите система, чийто следващ ход не можете да предвидите?

Въпросите, на които никой не иска да отговори

Всеки екип, който внедрява ИТ агенти, се сблъсква с едни и същи решения за достъп, обикновено без дори да забележи:

  • Давате ли на агента всеки инструмент, който би могъл да помогне, или само тези, които вероятно ще са му необходими?
  • Предоставяте ли администраторски права, защото някой специфичен краен случай може да ги изисква?
  • Осигурявате ли на агентите широк достъп или го ограничавате до конкретната заявка, която е пред агента в този момент?
  • Необходими ли са всички тези конектори? Кои от тях се нуждаят от администраторски достъп? Необходими ли са за всяка сесия?

Никой от тези въпроси няма лесен отговор, тъй като прилагането на принципа на най-малките привилегии е трудно. А постигането му за всеки агент и за всяка сесия, която този агент изпълнява, е с порядъци по-трудно.

Поради това екипите постъпват по човешки – предоставят пълен достъп и продължават напред. Широките разрешения са пътят на най-малкото съпротивление и агентите ги наследяват по подразбиране.

Повечето екипи не могат да отговорят на тези въпроси, защото никой няма пълния опис. Token Security открива всеки агент, работещ във вашата среда, самоличностите зад него и достъпа, който притежава.

„Скритият“ изкуствен интелект (Shadow AI) и неконтролираното разрастване на агенти изпреварват възможностите на вашия екип по сигурност да се справи с тях.

Token Security открива всеки агент, картира рисковия достъп и автоматично налага политики, базирани на намеренията. Мащабирайте внедряването на ИС безопасно, без да губите контрол или да забавяте иновациите.

В продължение на две години повечето усилия за сигурност на ИИ бяха насочени към оформяне на начина, по който моделите отговарят – предпазни огради, които включват филтриране на подканите (prompts), ограничения на входа и изхода, както и контрол на поведението. Макар и полезни в много контексти, те са на грешното ниво за проблема, пред който сме изправени.

Филтрите за подкани се опитват да ограничат поведението. При естествения език като интерфейс и безкраен брой възможни подкани, винаги има друг начин за пробив. Филтриране, което работи в 99% от случаите, пак се проваля, защото 1% от безкрайността все пак е безкрайност.

По-важното е, че предпазните мерки действат, след като достъпът вече е предоставен. След като агентът притежава идентификационни данни за производствена система, границата на сигурността вече е премината. Филтърът може да оформи това, което агентът казва, но не може да отмени това, което на агента е разрешено да прави.

Предвиждането се проваля по същата структурна причина. Традиционното управление на идентичността и достъпа (IAM) отговаря на един въпрос: до какво има достъп тази идентичност? Този модел е по-малко полезен за ИТ агентите с ИИ. Два агента с идентични разрешения могат да се държат напълно различно в зависимост от това какво се опитва да постигне всеки от тях.

Не можете да защитите система, ориентирана към цели, като профилирате миналото ѝ поведение, защото следващото ѝ действие зависи от контексти, с които тя все още не се е сблъсквала.

Мащабът вече е факт. Palo Alto Networks определя съотношението на нечовешките към човешките идентичности на 109 към 1, включително 79 ИТ агенти с ИИ. Агентите ускоряват тази крива, защото всеки може да стартира такъв за минути и повечето го правят извън всякакъв преглед за сигурност.

Мислете за риска от агентите като за достъп, умножен по автономия. Достъпът определя радиуса на поражението, докато автономията стеснява прозореца за човешка намеса. Статичните IAM политики, написани за хора, които влизат в системата в рамките на работното време и биват проверявани веднъж на тримесечие, никога не са били проектирани за агенти, които никога не спят, не използват двуфакторна автентификация (MFA) и рядко биват извеждани от експлоатация.

Идентичността е единствената равнина за контрол, която е устойчива

Ако отстраним модела, подканата и рамката, едно нещо остава постоянно: всяко действие, което даден агент предприема, се извършва чрез идентичност. Той се автентифицира със сервизен акаунт, API ключ, OAuth разрешение, облачна роля или токен. Всички действия, от четене на данни до промяна на инфраструктурата, зависят от разрешенията на идентичностите на агента.

Ето защо идентичността, а не филтрирането на подкани, е равнината за контрол (control plane) за агентите с ИИ. Идентичността е слоят, който обхваща всяка система, до която агентът се докосва, което го прави единственото място, където можете да налагате контрол последователно. Идентичността контролира достъпа, а намерението прави този достъп безопасен.

Намерението е липсващото измерение

Традиционният контрол на достъпа пита какво може да направи една идентичност. За агентите това не е достатъчно, защото целта е това, което разделя безопасното поведение от опасното.

Агент, който коригира уязвимост при неуспешно внедряване, и атакуващ, който извлича данни...