В това интервю за Help Net Security Джонатан Кеър, водещ анализатор и ръководител на направление „Изкуствен интелект“ в KuppingerCole Analysts, сравнява стартиращите компании за сигурност на изкуствения интелект с ранния пазар за борба с измамите, който помага да се дефинира по време на работата си в Gartner. Той обяснява кои категории ще оцелеят като самостоятелни продукти и кои ще се превърнат във функции в рамките на по-големи платформи.
Кеър говори за насочването на финансирането през третото тримесечие към по-малък брой, но по-големи инвестиционни рундове, дела на Израел в рисковите инвестиции в киберсигурността, както и за петте контролни механизма, от които се нуждае дадена организация, преди софтуерен агент да бъде внедрен в реална работна среда. Той посочва три категории, на които би заложил за 2028 г., и три, срещу които би заложил.
В началото борбата с измамите изобщо не беше продуктова категория. Това беше проблем, разположен между екипа по разплащанията, екипа по управление на риска и ИТ отдела, и никой не разполагаше със собствен бюджет за него. Доставчиците продаваха точкови решения: идентификация на устройства тук, механизъм за правила там, добавен поведенчески анализ. Това, което превърна направлението в пазар, се появи тогава, когато купувачите осъзнаха, че трябва да оркестрират тези сигнали и да вземат решения в реално време, в самия момент на трансакцията.
Сигурността на автономните ИИ агенти изглежда много сходно. Имаме инструменти за откриване на активи, филтриране на заявки, защитни ограждения (guardrails) и управление на състоянието на сигурността на изкуствения интелект, като всяко от тях дава отговор на част от въпроса. Категорията, която ще оцелее, ще бъде тази, която взема решения в реално време по време на изпълнение относно това какво е позволено да прави даден агент, съобразено с контекста от чие име действа той. Това представлява повторение на механизма за вземане на решения при измами.
Какво ще се превърне във функция? Сканирането на модели, спецификациите на софтуерните компоненти на изкуствения интелект (AI BoM) и по-голямата част от управлението на състоянието на сигурността на изкуствения интелект. Тяхното място е вътре в облачната платформа за сигурност, платформата за сигурност на данните или конвейера за разработка. Самостоятелното откриване на инжектиране на зловредни инструкции (prompt injection) също е с преброени дни. То ще бъде абсорбирано в шлюзовете и собствените защитни механизми на доставчиците на модели. Консолидацията вече започна: тази година Cisco придоби Astrix, 1Password купи Apono, а Check Point предприе стъпки към Cyata – всичко това с цел интегриране на сигурността на самоличността на агентите и машините в по-големи платформи.
Те срещат по-големи трудности при набирането на капитал, но това не е невъзможно. Капиталът се концентрира в по-малко, но по-големи рундове, а инвеститорите търсят познати модели, свързани с изкуствения интелект, тъй като вярват, че именно там са успешните изходи от инвестиции. Основател без този етикет се бори срещу шаблона, така че се нуждае от доказателства. А заглавията звучат по-мрачно от самите данни. Pinpoint отчете 62 рунда от начален етап (seed) и Серия А през третото тримесечие – 60% от всички сделки – набирайки общо 1,16 милиарда долара между тях. Парите са налице. Просто трябва да бъдат спечелени с реални доказателства, а не с моден речник.
Моят съвет е прост: не слагайте „ИИ“ в презентацията само за да си осигурите среща. Както инвеститорите, така и купувачите забелязват това, а то ви струва доверие при предварителния одит. Покажете купувач с предвидена бюджетна линия, измерим резултат и цикъл на продажби, който действително можете да опишете. Ако намалявате загубите, съкращавате работните часове на анализаторите или отстранявате констатация от одит, заявете го с конкретни числа.
Съществува и по-незабележима възможност. Всяко внедряване на агент създава нови проблеми в по-малко бляскавите области на сигурността: идентичност, обработка на данни, водене на дневници, риск от трети страни. Основателите, които решават тези проблеми успешно, не е задължително да бъдат компании за изкуствен интелект. Те трябва да бъдат компонентът, без който внедряването на изкуствен интелект не може да заработи в реална среда.
Вярно е и двете, а формулировката прикрива същинския въпрос. Да започнем с цифрата: формулировката „близо половината“ зависи от това чии глобални данни се използват. Спрямо данните на Pinpoint от 5,26 милиарда долара, това са около 46%. Спрямо данните на Crunchbase от 6,8 милиарда долара, делът е по-близо до една трета. Във всеки случай това е забележителен дял за страна с население от около десет милиона души. Израел разполага с изключителна база от основатели, които са се запознали с проблема от гледна точка на атакуващия, а това е реално предимство. Инвеститорите застават зад тези постижения и в повечето случаи с право.
Рискът е свързан не толкова с географията, колкото с монокултурата. Когато толкова голям капитал преминава през една екосистема, се наблюдават едни и същи модели на основаване, еднакви стратегии за навлизане на пазара и често едни и същи инвеститори в капиталовата структура. Това определя кои проблеми получават финансиране. Продукти с дълбока техническа насоченост, изградени на база опит в атаките, се развиват добре. Проблеми, които изискват търпелива работа с регулирани клиенти в Европа или Азия, получават по-малко внимание.
Съществува и практическа гледна точка относно оперативната устойчивост. Купувачите от критичната инфраструктура и държавния сектор обръщат все по-голямо внимание на това къде са базирани инженерните екипи и екипите за поддръжка на доставчика. Това не е причина да се избягват израелски доставчици. Това е повод да се зададат същите въпроси за непрекъснатост на дейността, каквито бихте задали на всеки силно концентриран доставчик.
Третирайте агента като нов вид цифрова идентичност, а не като функция на дадено приложение. Преди той да достигне реална работна среда, бих изискал пет неща. Първо, всеки агент трябва да има собствена идентичност, със съответен отговорник, предназначение и жизнен цикъл. Без споделени служебни акаунти и без заемане на идентификационните данни на реален потребител.
Второ, спазване на принципа на минималните привилегии с краткотрайни идентификационни данни с ограничен обхват. Агентът получава достъп за конкретната задача, а не за цялостна длъжност, като този достъп изтича. Трето, стъпка за одобрение от човек за всяко необратимо действие или такова с голямо въздействие: изтриване на данни, прехвърляне на средства, промяна на права за достъп, публикуване в реална среда.
Четвърто, пълно регистриране в дневниците на това какво е било поискано от агента, какво е решил и какво реално е извършил, във вид, разбираем за специалистите по реагиране на инциденти. Пето, надежден авариен прекъсвач, който функционира и е бил тестван на практика.
Нищо от това не е необичайно. Това е управление на идентичността и контрол на промените, приложени към софтуер, който взема решения самостоятелно. Организациите, които изпитват затруднения, са тези, които са пренебрегнали тези дисциплини при служителите и сега откриват, че те са необходими и за машините.
Първата категория е ясна. Оторизация на агентите в реално време по време на изпълнение, което означава вземане на решения за политиките в момента, в който агентът действа, съобразено с контекста от чие име действа.
Второ, откриване на заплахи срещу идентичността (AI-TDR), което третира нечовешките идентичности като равнопоставени субекти от първостепенно значение, тъй като тази популация расте много по-бързо от човешката. Инвеститорите вече са съгласни: идентичността беше най-активният сегмент в данните на Pinpoint за третото тримесечие с 23 трансакции. И на трето място – операции по сигурност, подпомагани от изкуствен интелект, които измеримо намаляват натоварването на анализаторите, осигурявайки подлежащи на одит резултати вместо демонстрации, на които трябва да се доверявате сляпо.
Три категории, срещу които бих заложил като самостоятелни продукти: филтрирането на инжектиране на зловредни инструкции само по себе си, тъй като то ще бъде абсорбирано в шлюзовете и платформите на моделите; управлението на състоянието на сигурността на изкуствения интелект като отделен продукт, защото то принадлежи към съществуващите платформи за облачна сигурност и защита на данните; и „защитните стени за изкуствен интелект“, които обещават да направят всеки модел сигурен единствено чрез инспекция. Инспекцията помага, но не може да замени сигурността по проект.
За да бъдем точни, залогът срещу дадена категория не означава залог срещу компаниите в нея. Няколко от тях ще се представят много добре, като станат част от нещо по-голямо.
