Оцеляването на бизнеса в ерата на изкуствения интелект

Адам Охайон, вицепрезидент по стратегията в Oasis Security

Внедряването на автономен изкуствен интелект (agentic AI) в предприятията вече не е въпрос на избор – то е от решаващо значение за оцеляването. Главният ключ за осигуряване на сигурност при внедряването му е чрез управление на достъпа на автономните агенти.

Агентите с изкуствен интелект подобряват ефективността, намаляват разходите и автоматизират както сложни, така и рутинни задачи: от „Човешки ресурси“ и маркетинг до ИТ и финанси, всяка част от организацията може да се възползва от автономния изкуствен интелект.

Данните от нашите клиенти от Fortune 500 показват нарастване на приемането на AI агенти с 840× на годишна база през 2025 г., което подчертава скоростта, с която иновативните компании внедряват автономен AI.

Оцеляването на предприятията зависи от бързото развиване на технологичния стек за внедряване на AI, но предизвикателствата остават. Нечовешките идентификационни данни (NHIs) вече превъзхождат по брой човешките самоличности с до 144:1.

Много организации внедряват AI агенти без платформа за управление на достъпа, предназначена специално за автономен AI, или без инфраструктура за управление и защита на нечовешките идентификационни данни.

Като бизнес лидер, как трябва радикално да внедрите изкуствения интелект, запазвайки пълен контрол?

Какво се случва, когато контролът на достъпа се провали (или липсва)

За да извлечете максимална полза от вашите AI агенти, те се нуждаят от достъп. Агентите без достъп нямат възможност за действие и са практически useless – но агентите с неограничен достъп са изключително мощни и опасни.

Мисията на агента е проста: да изпълни успешно задачата, поставена от неговия потребител-човек. Този стремеж е мощен и опасен при машинна скорост, тъй като агентите нямат ограниченията, с които работят хората: те са проектирани да изпълняват.

Виждали сме какво се случва, когато контролът на достъпа се провали и защо платформата за управление на достъпа на агенти е от критично значение.

В един от случаите AI агентът за кодиране Cursor AI, задвижван от Claude на Anthropic, изтри цялата производствена база данни на Pocket OS, включително всички резервни копия, само за девет секунди.

Агентът самостоятелно откри токен с прекомерни привилегии, изведе решение и изпълни разрушителна команда. Никой атакуващ или злонамерено действие не са причинили това прекъсване на бизнеса – просто агент, преследващ целта си, с твърде голям достъп.

Отделна уязвимост, разкрита в Claude Desktop, също показва колко малко е нужно, за да се предизвика такъв срив.

Една-единствена специално създадена връзка е била достатъчна, за да заобиколи изцяло стъпката за преглед от потребителя, позволявайки на атакуващ да извлече историята на разговорите или да изпълни код на машината на жертвата, без потребителят да знае, че е кликнал върху нещо необичайно.

Anthropic коригира уязвимостта след уведомяването, но излагането на риск направи ясно, че даден агент, след като му е предоставен достъп, ще действа според всяка инструкция, която достигне до него, и не може самостоятелно да разграничи легитимна от злонамерена инструкция.

Това се случва, когато остарелите модели за права за достъп се срещнат с автономния изкуствен интелект. Повечето предприятия все още управляват достъпа най-общо като груби роли, при които дадена самоличност или има достъп до системата, или няма.

След това агентите наследяват същия този широк достъп – но за разлика от човека, те могат да действат върху него с мащаб и скорост, които им позволяват да се възползват напълно. Разликата между теоретичните прекомерни привилегии и риска от прекъсване на бизнеса се срина.

Отговорът не е в блокирането на агентите. Не е и в това да им се дадат ключовете за всичко.

Отговорът е в прилагането на контроли, които им позволяват да действат въз основа на намерение, с машинна скорост, но управлявани от политики – без възможност да докосват това, което не трябва.

„Най-малките привилегии“ са мъртва концепция

Екипите по сигурност разчитат на принципа на най-малките привилегии от години, опитвайки се да дадат на идентификационните данни само достъпа, от който се нуждаят, и нищо повече.

Този модел приема, че субектът се държи предвидимо. Един скрипт се изпълнява по един и същ начин всеки път. Дадено работно натоварване прави това, за което е програмирано.

Агентите обаче не работят така. Те разсъждават и проучват. И когато им бъде поставена цел, агентът може да намери свой собствен път до нея, недетерминирано, по начини, които неговите създатели не са планирали изрично.

Това прави агентите мощни и точно затова принципът на най-малките привилегии се срива като модел за контрол.

Това, от което предприятията се нуждаят вместо това, е най-малка автономия (least agency), която дава на агента достъп само до това, което му е необходимо за завършване на конкретната задача пред него, а не постоянен достъп до всичко, до което теоретично би могъл да се докосне.

По този начин това е по-тясна, по-динамична версия на принципа на най-малките привилегии, изградена за субекти, които могат да разсъждават, а не просто да изпълняват.

Сляпото петно при идентичността за предприятията

Безопасното внедряване на автономен изкуствен интелект зависи от същите основи, от които предприятията се нуждаеха за идентичността на работните натоварвания, а за повечето организации тези основи не са стабилни.

Дълготрайните идентификационни данни и статичните методи за автентификация все още са често срещани и те стават много по-рискови, след като агентът е този, който ги притежава.

По-зрелите организации се придвижват към силно обвързана, краткотрайна автентификация. Тази промяна отнема време и повечето предприятия се намират някъде по средата на тази крива на зрялост, където се опитват да се движат бързо по отношение на внедряването на AI, но тяхната базова инфраструктура за идентичност не е догонваща.

Сбогом на точковите решения

В днешната ера на изкуствения интелект нивото на контрол, което има значение, е идентичността и достъпът. Защо? Защото точковите решения на ниво приложение стават по-лесни за усвояване или дублиране от самия AI.

Управлението на достъпа трябва да живее на ниво инфраструктура, а не да бъде добавяно към отделни приложения. Затова е необходимо да се даде приоритет на приемането на технологии, които ще ви позволят да навлезете в ерата на AI безопасно, и отстраняването на точкови решения и разпокъсани инструменти, които добавят сложност, без да добавят контрол.

Когато всеки твърди, че се занимава със сигурност на AI, на практика почти никой не решава добре конкретна част от проблема. Организациите, които ще се справят най-добре, са тези, които са прецизни относно това кое ниво на проблема наистина решава даден инструмент, вместо да предполагат широко покритие там, където такова липсва.

Правилното изграждане на инфраструктурния слой е само половината от уравнението. Другата половина е кой го управлява.

Екипите по сигурност се превръщат в екипи за управление на AI

Недостигът на умения в областта на идентичността и достъпа нараства бързо и това е един от най-големите рискове за работната сила, пред които са изправени предприятията в момента, дори и да не се говори толкова за това, колкото за загубата на работни места.

Глобалният недостиг на кадри в киберсигурността в момента възлиза на около 4,8 милиона незаети позиции, като близо 90 процента от организациите съобщават за критичен недостиг конкретно в областта на облачната сигурност и сигурността на AI.

Това търсене само се ускорява, тъй като старите системи и новата AI инфраструктура сега трябва да се управляват съвместно.

Това тласка екипите по сигурност към роля, която изглежда по-малко като традиционни операции по сигурност и повече как управление на AI.

Шестдесет процента от главните информационни директори по сигурността (CISO) сега посочват самия недостиг на умения, а не броя на служителите, като основно притеснение за работната сила – първият път, когато това изпреварва недостига на персонал, а бързото внедряване на AI в предприятията е основният двигател зад това.

Работата вече не е само в откриването на това какво е изложено на риск. Тя е в разбирането как дадена система осъществява достъп до ресурси, кой носи отговорност за това, какъв риск създава това излагане и какво всъщност може да направи организацията по въпроса.

Тази промяна променя и това какво е ценно в кариерата по сигурност. Хората, които изпълняват само дефинирани задачи, ще имат по-малко предимство от хората, които могат да проектират и организират системи за контрол. Повишаването на квалификацията вече не е по избор; то е разликата между поддържането на темпото и изоставането.

Повечето IAM специалисти са обучени по модели за човешка идентичност, така че изграждането на умения в управлението на нечовешки самоличности означава търсене на обучение, което го tretira като отделна дисциплина, а не като разширение на съществуващите IAM познания.

Управлявайте правилно, или ще бъдете изоставени

Нищо от това не работи без хора, които разбират както системите, така и залозите. Агентите все още изпълняват човешки намерения, но мащабът се промени бързо.

Gartner прогнозира, че 40% от корпоративните приложения ще бъдат интегрирани със специфични за дадени задачи AI агенти до края на 2026 г., спрямо по-малко от 5% през 2025 г. При такъв мащаб агентите трябва да се третират не като инструменти, а как субекти. Способни, бързи и нуждаещи се от строго управление.

Оцеляването на бизнеса изисква два едновременни императива: radical внедряване на AI и radical контрол. Дайте на служителите си инструментите, от които се нуждаят, за да се движат с темпото на идеите.

Дайте на агентите достъпа, от който се нуждаят, за да създават стойност, и границите, от които се нуждаят, за да избягват рискове.

Бъдещето принадлежи на организациите, които са достатъчно бързи, за да впрегнат изкуствения интелект, и достатъчно мъдри, за да го овладеят.