Написано от Алфредо Хикман, CISO, Kai

Изкуственият интелект се развива толкова бързо, че поддържането на темпото може да изглежда обезсърчително. Нови модели, възможности и вектори на атака се появяват почти ежедневно, принуждавайки ръководителите по информационна сигурност (CISO) постоянно да коригират своите стратегии.

Лидерите в областта на сигурността вече са осъзнали тази промяна.

В скорошно проучване на Kai сред 500 CISO, близо девет от десет (89%) споделят, че са подготвени за атаки, задвижвани от ИИ, но само 28% определят себе си като „много добре подготвени“.

В същото време 63% вярват, че в момента атакуващите имат предимство благодарение на изкуствения интелект, а 65% твърдят, че времето между разкриването на уязвимост и нейното експлоатиране е намаляло (в оригиналния текст: „се е увеличило“, но контекстът на съкращаването на времето предполага по-висока скорост на атаките).

Тези констатации разкриват важна разлика: подготвеността не е същата като готовността. Разбирането на заплахата е едно, но оперирането със скоростта, необходима за реакция, е съвсем друго.

Въпреки това, дори инженерите, които изграждат авангардни ИИ системи, ще признаят една проста истина: никой не знае точно как ще изглежда изкуственият интелект след 12, 24 или 36 месеца.

Тази несигурност прави рисковано изграждането на програми за сигурност единствено около днешните технологии. Ние вярваме, че има по-добър подход: да започнем от първите принципи.

Въпреки че ИИ ще продължи да трансформира начина, по който организациите функционират, основите на добрата сигурност остават непроменени и в много случаи стават дори по-важни. Технологията ще се развива, но основните принципи, които правят организациите сигурни, няма да се променят.

Устойчивостта е основата на модерната сигурност

Първият принцип е устойчивостта. Всеки лидер в сигурността знае, че предотвратяването на абсолютно всяка кибератака е почти невъзможно. ИИ не променя тази реалност, а по-скоро променя икономиката на кибератаките.

Вече виждаме как ИИ намалява бариерата за навлизане, ускорява скоростта на атаките и позволява на противниците да действат в много по-голям мащаб.

Самите атаки не са нови; те просто стават по-евтини, по-бързи и по-лесни за изпълнение.

Това означава, че организациите трябва да очакват по-чести прекъсвания на работата, а не по-малко опити.

Лидерите по сигурността трябва да проектират организации, които могат бързо да откриват, ограничават и да се възстановяват от инциденти. Следователно устойчивостта трябва да се превърне в стратегически принцип на проектиране, който позволява на организациите да внедряват иновации, без да жертват непрекъснатостта на процесите.

Предизвикателството е, че много организации все още се опитват да реагират на атаки с машинна скорост чрез операции с човешка скорост.

Проучването на Kai установи, че 65% изпитват затруднения, тъй като техните процеси за управление на уязвимости са все още поне наполовина ръчни.

Около 60% се нуждаят от повече от една седмица, за да отстранят критични уязвимости, докато почти половината съобщават, че поне една четвърт от известните уязвимости остават некоригирани за повече от 30 дни.

Всеки допълнителен ден между идентифицирането и отстраняването на уязвимост създава нова възможност за атакуващите.

В среда, в която ИИ свива времето между разкриването на уязвимост и нейната експлоатация, устойчивостта не се състои само във възстановяването от инциденти.

Става въпрос за намаляване на времето между откриването, вземането на решение и действието, така че защитниците да могат да държат темпото на все по-автоматизираните заплахи.

Идентификацията и Zero Trust стават още по-критични

Вторият принцип е идентификацията. Идентификацията отдавна е крайъгълен камък на модерната сигурност, но ИИ повишава залозите значително.

Организациите сега управляват много повече от просто човешки потребители – те управляват модели, приложения, API и автономни агенти, всеки от които изисква различни нива на достъп до чувствителни системи и данни.

Тъй като ИИ се внедрява в предприятието, идентификацията се превръща в контролна равнина, която определя кой или какво има право да действа.

Това прави архитектурата Zero Trust (нулево доверие), непрекъснатото проверяване и достъпа с най-малки привилегии по-важни от всякога. Но технологията сама по себе си не е достатъчна. Организациите също така трябва да преосмислят управлението.

Тъй като ИИ става способен да предприема все по-сложни действия, организациите се нуждаят от ясни политики, дефиниращи кои системи могат да работят автономно, при какви условия и под какъв надзор.

Проучването на Kai установи, че опасенията относно управлението и съответствието остават една от най-големите бариери пред по-широкото приемане на автоматизацията. Това е разбираемо.

Преди организациите да позволят на ИИ да предприема действия, те се нуждаят от увереност, че тези действия ще бъдат прозрачни, обясними и съобразени със съществуващите политики за сигурност.

Организациите трябва да инвестират в обучение на работната си сила, преработване на програмите за сигурност за ИИ-ориентирана среда и ангажиране на бизнес лидерите и бордовете на директорите, така че управлението да се развива успоредно с технологията.

Силната идентификация не е просто технически контрол; тя е организационна дисциплина.

ИИ изисква преосмисляне на доверието, а не отказване от него

Третият принцип е управлението на доверието с по-голяма прецизност. Традиционният софтуер обикновено изпълнява предварително дефинирани инструкции, но агентичният ИИ все повече взема решения и инициира действия от името на потребителите и организациите.

Тази промяна изисква от нас да бъдем много по-внимателни относно това къде се предоставя доверие и как се ограничава то в рамките на дадена организация.