# Компаниите изпитват затруднения да определят как изглежда нормалното поведение при ИИ агентите

- URL: https://news.nodepoint.bg/article/5921
- Публикувано: 2026-11-06T14:42:53.000Z
- Категория: Изкуствен Интелект
- Ниво на заплаха за България: среден
- Оригинален източник: Cybersecurity Dive — "Companies struggle to know what normal looks like for AI agents" (https://www.cybersecuritydive.com/news/ai-agents-normal-baseline-security-governance/873998/)
- Издател: NodePoint News (https://news.nodepoint.bg/about), НодПойнт ЕООД
- Бележка: преведено и обобщено с изкуствен интелект, без предварителна човешка редакция (https://news.nodepoint.bg/editorial-policy)

> Нов доклад на Abnormal AI разкрива, че 46% от специалистите по киберсигурност не могат да установят базови линии за нормално поведение на ИИ агентите. Липсата на ясен контрол върху машинните идентичности и големият брой фалшиви сигнали създават сериозни рискове при корпоративното внедряване на изкуствен интелект.

#### Накратко:

- Компаниите изпитват затруднения да контролират своите ИИ агенти, тъй като не знаят как изглежда нормалното им поведение, сочи нов доклад.
- Почти половината (46%) от специалистите по сигурност споделят, че не успяват да установят безопасни базови линии за активността на автономния (агентен) изкуствен интелект, посочва компанията за сигурност Abnormal AI в доклад, публикуван в четвъртък.
- Докладът подчертава пропуски в сигурността при надзора над ИИ, които компаниите трябва да приоритизират с увеличаването на внедряванията на изкуствен интелект.

#### Задълбочен поглед:

Установяването на базово ниво на поведение е една от най-важните стъпки, които всяка компания може да предприеме, за да предотврати излизането на ИИ агентите извън контрол или използването им като оръжие за саботиране на операции и кражба на данни. За да могат компаниите да усъвършенстват инструментите си за откриване на потенциално злонамерено поведение, експертите посочват, че те трябва да изградят ясна представа за това как изглежда нормалната работа на агентите в техните мрежи.

Компаниите разбират тази необходимост. Повече от четири на всеки десет бизнеса, инвестиращи в технологии за поведенчески мониторинг, ги насочват към ИИ агентите според доклада на Abnormal AI — много по-голям дял, отколкото за всяка друга корпоративна технология. Почти един на всеки трима анкетирани заявява, че агентният ИИ е една от най-важните области за разработване на по-добри базови показатели.

В същото време повече от половината (53%) от респондентите посочват, че техните организации изобщо не са установили нормални базови линии за машинните идентичности — включително ИИ агентите.

„Това е планираната инвестиция номер едно за почти всеки директор по информационна сигурност (CISO), с когото съм разговарял… за следващата година“, споделя пред авторите на проучването висш ръководител по сигурността в неназована софтуерна B2B компания. В същото време ръководителят добавя, че „няма план“ как тази инвестиция да се изплати. „Не знаем какви са решенията, но всички ще насочим ресурси към това.“

Една от трудностите при управлението на ИИ агентите е, че те размиват границите между човешкото и машинното поведение, тъй като понякога предприемат действия от името на хора, а понякога действат по собствена инициатива.

„Това усложнява модела за сигурност, изграден около относително стабилни връзки между идентичност, достъп и действие“, отбелязват от Abnormal AI. Сега според компанията за сигурност организациите трябва да установят не само дали на даден агент е разрешено да извърши нещо, но и дали има смисъл агентът да изпълнява конкретна задача предвид неговите инструкции.

Abnormal, която предлага платформа за поведенчески анализ, е интервюирала 525 специалисти по сигурност в шест държави за своя доклад. Всеки респондент представлява организация с поне 1000 служители. Осемдесет и пет процента от анкетираните са директори по информационна сигурност (CISO) или ръководители на центрове за операции по сигурността (SOC).

Технологията за поведенчески анализ има ограничения, които подкопават доверието на специалистите по сигурност в нейните констатации, се казва в доклада. Почти четирима от десет анкетирани посочват, че основна пречка пред способността им да наблюдават поведението в мрежата е трудността при разбирането или доверието в получаваните поведенчески известия.

Проблемът с доверието, предизвикателството да се дефинира кое е нормално и огромният брой фалшиво положителни сигнали представляват трите най-големи препятствия, пред които са изправени специалистите по сигурност при опита си да анализират поведението в мрежата според доклада на Abnormal. От компанията за сигурност отбелязват, че е показателно как тези три проблема изпреварват по-традиционните пречки като недостиг на персонал, бюджети и възможности на инструментите.

## Анализ на риска за България

Българските компании и институции, които интегрират автономни ИИ агенти в своята ИТ инфраструктура, са изложени на риск от злоупотреба и изтичане на данни поради липсата на утвърдени механизми за поведенчески мониторинг. Без дефинирани базови линии за нормална активност, местните екипи по сигурност трудно биха различили легитимните автоматизирани процеси от компрометирани ИИ агенти.

Ключови думи: ИИ агенти, поведенчески анализ, Abnormal AI, машинни идентичности, корпоративна сигурност