Критичен недостатък в настоящите операции за сигурност е предположението, че времето е на наша страна. Исторически погледнато, атаките се развиваха бавно, като даваха време на анализаторите и екипите за реагиране да откриват, обсъждат и реагират. Дори сериозните инциденти се случваха с човешка скорост.
Нашите защити разчитаха на човешка грешка, човешка скорост и човешки ограничения.
Водените от изкуствен интелект противници фундаментално промениха темпото на киберконфликта. Те действат незабавно и не спазват времевите рамки, за които са проектирани нашите процеси. Това разминаване е най-очевидно и най-опасно в рамките на AI инфраструктурата.
Киберсигурността претърпява значителен обрат. Изкуственият интелект позволява на атакуващите да действат по-бързо, по-ефективно и с по-голяма изтънченост, като същевременно подобрява и отбранителните възможности.
Честотата на атаките обаче остава висока.
Настоящите инвестиции в киберсигурност не подобряват значително нашата дигитална устойчивост.
Два основни въпроса изискват внимание.
1. Рансъмуерът, задвижван от AI и действащ с машинна скорост, поставя значителни предизвикателства.
През юли изследователи на заплахи документираха това, което смятат за първата напълно автономна (agentic) рансъмуер операция в историята. Никой човек не е управлявал отделните стъпки. Автономният агент откри отстранена уязвимост при вход, за която липсваше корекция за сигурност, придвижи се самостоятелно през мрежата и криптира производствена база данни преди края на деня. Когато първият му вход беше блокиран, той написа нов код и откри друг маршрут, вместо да спре. Той не чакаше някой да му каже какво да прави по-нататък.
Преодоляването на разликата между атаките с машинна скорост и реакцията с човешка скорост трябва да бъде основен приоритет за CISO.
Бордовете на директорите трябва да определят дали да инвестират в възможности, които позволяват реакция с машинна скорост, или в мерки, които забавят атакуващите, докато изграждат възможности за бърза реакция.
2. Съществуващите защитни прегради са недостатъчни. Необходими са по-строги граници.
Тази празнина се простира извън лабораториите за AI. Инфраструктурата за AI се свързва с хранилища за код, облачни услуги, векторни бази данни, доставчици на идентичност, регистри на модели, системи за наблюдение и вериги за доставка на софтуер. Всяка връзка, макар често необходима, може да служи и като вектор на атака.
OpenAI тества дали нейните собствени модели могат да откриват и експлоатират уязвимости в изолирана среда. Вместо това моделът откри прокси услуга, предназначена само за изтегляне на пакети, използва я, за да достигне до отворения интернет, и след това използва намереното, за да проникне в системите на Hugging Face и да извлече отговорите на теста, който трябваше да реши честно.
Защитните прегради трябва да могат да бъдат демонстрирани в реални условия. Системите с AI неуморно тестват защитите, изследвайки всеки път, грешна конфигурация, забравено прокси и остарели идентификационни данни. Те не се уморяват и не спират, когато документацията подсказва, че трябва.
Комбинирането на автономна експлоатация с автономно устойчиво присъствие (persistence) създава среда на заплахи, при която киберпрестъпниците действат в милисекунди, докато защитниците са забавяни от традиционните процеси. Това представлява спешно и развиващо се предизвикателство.
Главните директори по сигурността (CISO) трябва да оценят дали техните защитни прегради могат да издържат на пробиви, управлявани от AI.
Бордовете трябва да оценят кои инвестиции поставят истински граници, които AI не може да пробие или модифицира.
Нашият фокус трябва да се измести към основния проблем.
С три десетилетия опит като Group CISO, одитор и защитник на дигиталната устойчивост, съм наблюдавал как бордовете гласуват прекомерно доверие на защитни стени от следващо поколение и EDR платформи. Тези защити често се провалят, не поради дефекти в инструментите, а защото архитектурните слабости позволяват на атакуващите да се движат свободно, след като веднъж са вътре.
Основният проблем е, че инвестициите са фокусирани върху побеждаването на атаките, докато противниците се стремят да заобиколят или претоварят тези защити. В среда, задвижвана от AI, това разминаване е критично. Атаките с машинна скорост се възползват от прекомерно разрешената свързаност клъстерите за обучение на AI, платформите за извеждане на заключения (inference), MLOps пайплайните и поддържащите хибридни среди, без да чакат триаж в SOC или прозорци за контрол на промените.
Предприятията са внедрили AI инфраструктура по-бързо от всяка друга технология досега. Теглата на моделите, данните за обучение, векторните бази данни и пайплайните за оркестрация се превърнаха в критични активи, които са скъпи за загуба, трудни за възстановяване и от съществено значение за бизнес операциите.
Злонамерените субекти активно наблюдават тези развития.
Вече закъсняваме. Организациите трябва да дадат приоритет на постигането на готовност за пробив.
С години програмите за киберсигурност бяха изграждани около превенцията. Защитни стени, MFA, криптиране, одити, отметки за съответствие — всички те бяха проектирани да държат атакуващите навън. Ключовият въпрос е колко бързо можем да локализираме и изолираме заплахите, които вече са проникнали в нашите системи.
Готовността за пробив не е лозунг; това е архитектурен подход, измерван в секунди, а не в политически документи. Внедряването на микросегментация, готова за пробив, трябва да изисква часове, а не месеци.
Готовността за пробив надхвърля видимостта; тя включва предварително проектиран отказ от достъп. Тя ограничава способността на атакуващите да се движат в предприятието незабелязано.
Готовността за пробив не е само откриване; тя изисква незабавни действия. Предприятията трябва да могат незабавно да поставят под карантина засегнатите зони, гарантирайки, че незасегнатите среди остават оперативни.
Готовността за пробив не е свързана единствено с технологиите; тя включва и подготовка на персонала. Нетехническите екипи трябва да разбират своите роли по време на инцидент.
Предприятията трябва да приемат този начин на мислене в рамките на AI инфраструктурата. AI системите не предоставят на защитниците време за SOC триаж, прозорци за контрол на промените или спазване на наследени архитектурни граници.
Атаките с машинна скорост изискват отказ от достъп с машинна скорост.
Традиционният цикъл за реагиране на инциденти от откриване, анализ, изолиране, ликвидиране и възстановяване беше изграден за човешки противници. Той предполага, че:
• Анализаторите имат време да разследват.
• Изолирането може да бъде координирано.
• Възстановяването може да започне след вземане на решения.
Тези предположения не се прилагат за автономните AI атакуващи.
Когато даден агент може да пробие, да ескалира привилегии и да криптира в рамките на минути, анализът се превръща в лукс, координацията — тесно място, а срещите — в пасив.
Цикълът на реакция трябва да се измести от реактивно разследване към проактивно изолиране.
Новият цикъл изглежда по-скоро така:
1. Приемете компрометиране. Третирайте всяко работно натоварване (workload), всяка идентичност и всяка среда как потенциално компрометирани.
2. Свийте достъпните повърхности. Микросегментацията става стандарт по подразбиране, а не изключение. Архитектурата отказва страничното движение (lateral movement), а не надеждата.
3. Налагайте идентичност с машинна скорост. Дълготрайните споделени идентификационни данни изчезват. Идентичността става криптографска, без парола, краткотрайна и със строго ограничен обхват.
4. Наблюдавайте последователности, а не сигнали за тревога (alerts). Zero Trust не се състои в проверка дали дадена идентичност е била допусната — той се състои в проследяване на това какво прави тази идентичност след това. Поведението се превръща в сигнал. Последователността се превръща в аномалия.
5. Изолирайте незабавно. Всяка компрометирана работна товарност (workload) може да бъде поставена под карантина автоматично, без човешка намеса, без забавяне и без дебати.
Това не е многогодишна програма за трансформация. То изисква промяна в начина на мислене — от превенция към ограничаване на щетите (containment), от твърдения към доказателства и от човешко към машинно темпо.
Приемането на готовност за отговор при пробив (breach-ready posture) трябва да се случи в рамките на часове, а не месеци.
В рамките на AI инфраструктурата, ограничаването е ключовият разграничителен фактор. AI системите са изследователски по своята същност, генерират неочаквано поведение и откриват грешни конфигурации, останали незабелязани от хората. Когато бъдат компрометирани, те могат да бъдат използвани като оръжие с невиждана скорост.
Микросегментацията е от основно значение. Решенията без агенти (agentless), използващи съществуващите инвестиции в EDR, могат да идентифицират модели на трафика, да препоръчват политики и да прилагат Zero Trust контроли в рамките на дни. Тези платформи могат да покриват IT, облачни и AI изчислителни среди, създавайки динамична карта, която минимизира повърхността за атака. Дори ако AI агент се опита да извърши странично придвижване (lateral movement), мрежовите пътища са ограничени, което прави неоторизираните опити откриваеми и предотвратими.
Защитата на идентификационните данни също трябва да напредне. Статичните пароли и дълготрайните сервизни акаунти са уязвими към автоматизирани атаки. Внедряването на криптографски, обвързани с устройството, краткотрайни идентификационни данни с непрекъснати проверки на състоянието и контекста значително повишава сигурността. Откраднатите токени стават неактивни извън одобрените устройства и сегменти, а условният достъп, базиран на произхода на мрежовия сегмент, допълнително ограничава възможностите за атакуващия.
Технологията за дезориентация (deception technology) добавя още един слой защита. Примамки с висока точност (high-fidelity decoys), като фалшиви крайни точки на модели, honeytoken идентификационни данни и симулирани потоци от данни, се поставят по протежение на разрешения мрежови път. Всяко взаимодействие с тези примамки е аномално. За автономните агенти усилията да изследват и потвърждават примамките генерират телеметрия, която позволява ранно и надеждно откриване на проникване.
Комбинирани, тези контроли микросегментират AI инфраструктурата в изолирани зони. Достъпът до един микросегмент не дава достъп до критични активи. Радиусът на поражение (blast radius) остава ограничен, което позволява на критичните за бизнеса операции да продължат, докато засегнатите зони се изолират и коригират. Дигиталните архитектури трябва непрекъснато и автоматично да демонстрират реална изолация, приложена сегментация, надеждна идентичност, минимален радиус на поражение и незабавно ограничаване, дори под натиск.
Какво трябва да направят компаниите сега
>Управителните съвети и управителните органи вече признават, че устойчивостта е от съществено значение. Регулаторните изисквания все повече държат ръководството отговорно за издържането на и възстановяването от сложни атаки.
Минимизирането на същественото въздействие и запазването на жизнеспособността на дигиталния бизнес трябва да станат изрични критерии за всяка AI инициатива.
Автор: Агни е бивш CISO и главен евангелист в ColorTokens Inc., където помага на предприятията да изградят дигитална устойчивост чрез измерими метрики. Той помага на организациите да предвиждат, ограничават и развиват своите възможности за киберзащита, за да се борят със заплахи както от хора, така и от AI, като същевременно съгласува стратегиите за киберсигурност с критичните бизнес цели. Той е лектор на различни индустриални форуми и експерт-сътрудник в международни стандарти. В продължение на повече от три десетилетия Агни е ръководил глобални инициативи за киберсигурност и устойчивост в IT, индустриални системи и облачни среди. И е помагал на ръководните екипи да преодолеят разликата между иновациите и защитата, давайки възможност за дигитална трансформация и приемане на AI. Той винаги е проповядвал спешност и действие при подготовката за следващата атака; простата видимост на повърхността за атака не е достатъчна; трябва да прилагате контроли с машинна скорост, които могат да забавят и ограничат автономните атакуващи.
Агни вярва, че „готовността за пробив е новото нормално“ и именно това проповядва.