# 87% твърдят, че контролът им върху изкуствения интелект трябва да работи по-добре

- URL: https://news.nodepoint.bg/article/5895
- Публикувано: 2026-11-06T06:24:12.000Z
- Категория: Изкуствен Интелект
- Ниво на заплаха за България: среден
- Оригинален източник: Help Net Security — "87% say their AI controls need to work better" (https://www.helpnetsecurity.com/2026/11/06/autonomous-ai-oversight-governance/)
- Издател: NodePoint News (https://news.nodepoint.bg/about), НодПойнт ЕООД
- Бележка: преведено и обобщено с изкуствен интелект, без предварителна човешка редакция (https://news.nodepoint.bg/editorial-policy)

> Проучване сред 3600 бизнес ръководители разкрива, че над половината от компаниите използват автономни AI системи, но 87% от тях признават, че се нуждаят от по-добър контрол, наблюдение и управление на сигурността при използването на изкуствен интелект.

Изкуственият интелект, който работи в големите компании, вече не чака разрешение. В пет категории на изкуствен интелект – от чатботове до автоматизация на процеси – повече от половината от 3600 лица, вземащи бизнес решения, казват, че системите, които техните екипи използват, могат да действат в рамките на дефинирани правила без рутинна проверка или да завършват цели процеси без човешко одобрение. 87% от същите тези респонденти твърдят, че организацията им се нуждае от по-добър начин за одобряване, наблюдение и контрол върху това как се използва изкуственият интелект.

![надзор над автономен изкуствен интелект](https://news.nodepoint.bg/media/articles/5895/img-1.webp)

Vanson Bourne проведе проучването в Северна Америка, Европа, Близкия изток и Африка (EMEA), както и в Азиатско-тихоокеанския регион и Япония. Всеки респондент е от компания с годишни приходи над 500 милиона долара, разпределени в седем сектора, включително финансови услуги, здравеопазване, производство и търговия на дребно.

„Отваря се опасна пропаст между увереността в изкуствения интелект и реалността около него. Увереността не е проблемът. Амбицията не е проблемът. Проблемът е, че повечето организации използват изкуствен интелект, за да подобрят бизнес модел, който изкуственият интелект всъщност трябва да замени“, каза Крис Хауърт, главен изпълнителен директор на Avanade.

#### Повече от половината казват, че техният изкуствен интелект може да действа без надзор

Разговорният изкуствен интелект и виртуалните агенти оглавяват списъка по автономност с 59%. Самостоятелните генеративни инструменти – тези, които пишат текст или код – са най-ниско с 54%. Прогнозният анализ и машинното обучение, роботизираната автоматизация на процеси и обработката на естествен език заемат по 56%. Това са мениджъри, които докладват за собствените си екипи, така че данните отразяват това, което те смятат, че работи в момента.

87% казват, че инициативите за изкуствен интелект се нуждаят от по-бързо разрешаване, за да останат конкурентоспособни, а 91% от същата тази група твърдят, че подходът за одобряване, наблюдение и контрол на изкуствения интелект трябва да бъде по-ефективен. Хората, които настояват за съкращаване на процеса по одобрение, са същите, които нямат доверие на самото одобрение.

#### Компаниите, които са действали бързо, вече губят представа

Сред тези, които са внедрили или мащабирали изкуствен интелект бързо, 46% съобщават за проблеми със сигурността, поверителността, регулациите или съответствието, а 25% отчитат загуба на видимост, контрол или права на достъп на агентите. Вторият показател е най-важен, тъй като агент, чиито права екипът не може да проследи, представлява неуправляем достъп до всичко, до което този агент се докосва.

45% смятат, че служителите им използват резултати от изкуствен интелект, без да проверяват тяхната точност или пригодност, 32% вярват, че изкуственият интелект се използва по начини, които екипът им по съответствие не би одобрил, а 31% съобщават за използване на неодобрени инструменти. Други 37% казват, че изкуственият интелект е внесъл объркване относно това кой носи отговорност за дадено решение.

Мениджър на средно ниво в голяма здравна компания в Канада, попитан как използва изкуствен интелект по начини, за които работодателят му може да не знае, споделя: „Осъзнавам, че изкуственият интелект не предлага същата сигурност като основните ни системи. Но какъв е пътят напред – блокирането на достъпа не работи. Качвам наша бизнес и фирмена информация в моето приложение с изкуствен интелект. Разбирам последиците за сигурността.“

#### Пропускът в управлението

По отношение на сигурността на изкуствения интелект, 30% казват, че е необходимо засилване на мерките, а други 40% посочват умерена нужда от това. По отношение на управлението и риска, 94% твърдят, че е необходимо по-нататъшно развитие. 36% поставят опасенията, свързани със сигурността, управлението или регулациите, сред най-големите пречки, които спират компанията им да стане лидер в областта на изкуствения интелект. Сигурността, поверителността, управлението и регулаторното съответствие са и най-често срещаната област на сериозни инвестиции в изкуствен интелект с 47%, така че разходите са започнали дори там, където механизмите за контрол все още не са въведени.

Сред компаниите с приходи между 500 милиона и 5 милиарда долара, 90% казват, че е необходим по-добър подход за одобрение, наблюдение и контрол, срещу 70% от компаниите с приходи над 5 милиарда долара.

Силното управление, контролът на достъпа и отговорното използване се нареждат сред най-високите приоритети за 45% от респондентите, значително пред 26-те процента, които посочват възможно най-бързото внедряване на изкуствен интелект.

## Анализ на риска за България

Липсата на адекватен контрол върху автономните AI агенти и използването на неодобрени инструменти (Shadow AI) представлява реален риск и за българските компании, които бързо интегрират генеративен изкуствен интелект в работните си процеси. Качването на чувствителна корпоративна информация във външни AI платформи без надзор може да доведе до изтичане на данни, нарушаване на GDPR и компрометиране на вътрешната ИТ инфраструктура.

Ключови думи: изкуствен интелект, автономни агенти, управление на риска, корпоративна сигурност, Vanson Bourne