Компаниите влагат все повече пари в изкуствен интелект (AI), като същевременно посочват атаките срещу AI системи като заплахата, за която са най-малко подготвени. PwC анкетира 3 934 бизнес и технологични лидери в 71 държави между май и юли 2026 г. половината от ръководителите в областта на сигурността и технологиите сред тях класират подобни атаки в топ 5 на пропуските в подготвеността си, преди всяка друга заплаха в списъка.
Повече от половината от запитаните лидери относно атаките, базирани на изкуствен интелект, поставят три от тях в своите топ 5: ботнети, които изкуственият интелект насочва в голям мащаб, съпернически атаки (adversarial attacks), които фино променят това, което вижда една AI система, за да я накарат да даде грешен отговор, и отравяне на данни (data poisoning), което вкарва подвеждащи записи в данните, от които се обучава даден модел. Оценката на PwC е, че авангардните AI модели вече могат да откриват неизвестни софтуерни дефекти и да ги експлоатират с минимално човешко участие.
Бюджетите нарастват, но не и плановете за архивиране и непрекъсваемост
От анкетираните лидери по сигурност и финанси 84 процента очакват кибербюджетите да нараснат, като изкуственият интелект е сред основните приоритети за средствата. Но само 39 процента от запитаните ръководители разполагат с напълно формализирани планове за непрекъсваемост на дейността при киберинциденти, което означава документирани начини за поддържане на критичните операции или тяхното възстановяване след атака. Почти една четвърт изобщо не разработват официални планове. Самите PwC описват киберинцидентите като въпрос на време „кога“, а не „дали“.
Данните зад изкуствения интелект са недостатъчни
Средностатистическата компания е внедрила три от общо седем мерки за риск при данните в цялата организация. Едва около половината са Implementирали класификация на данните, което е основната стъпка да се знае кои данни са чувствителни. Аргументът на PwC е, че изкуственият интелект е толкова надежден, колкото са надеждни данните под него, така че ако внедрявате AI инструменти тази година, проверете до кои данни имат достъп те и колко добре са защитени тези данни.
Малцина ще позволят на изкуствения интелект да действа самостоятелно
От страна на защитата по-малко от една четвърт от лидерите биха позволили на AI агенти — софтуер, който предприема самостоятелни действия — да овладяват и коригират атаки без човешко одобрение. Повечето биха ограничили агентите до действия с нисък риск или биха запазили човек начело. Повече от половината посочват надеждността и зрелостта на технологията като основна бариера.
„За да бъдем успешни в ерата на изкуствения интелект, трябва да можем да се защитаваме със скоростта на машините“, казва Мат Роу, главен директор по сигурността в Lloyds Banking Group.
Компаниите са разделени и по въпроса кой носи отговорност за риска от изкуствения интелект. Една трета са създали специализирани роли за AI, като например главен директор по изкуствен интелект (Chief AI Officer), докато други го възлагат на технологичния отдел или на главния директор по информационна сигурност (CISO).
Агентите произвеждат вероятностен резултат, което означава резултат, който вероятно е правилен, но не е гарантиран. Съветът на PwC е, че когато даден крайни резултат трябва да бъде точен всеки път, работата на агента трябва да преминава през контрол, върху който той не може да оказва влияние, като например преглед, процес по одобрение или проверка от друга система.
