През март 2026 г. вътрешен ИИ агент в Meta предизвика инцидент от критично ниво („Sev 1“), след като чувствителни фирмени и потребителски данни бяха изложени на служители, които нямаха право на достъп до тях.

Инцидентът започна, когато служител на Meta публикува технически въпрос във вътрешен форум. Инженер използва одобрен ИИ агент, за да го анализира, но агентът публикува отговора си публично без одобрение. Служителят последва съвета му, като по този начин неволно направи голям обем чувствителни данни достъпни за неоторизирани инженери за повече от два часа.

Това не беше „shadow AI“ (неодобрен ИИ). Инструментът беше одобрен, но ИИ се държа по начин, който никой не беше предвидил.

Това е идеален пример за следващия голям проблем с управлението на ИИ пред сигурността: „shady AI“ (съмнителен ИИ).

„Shadow AI“ е неодобреното използване на ИИ инструменти.

„Shady AI“ е, когато служителите използват одобрени ИИ инструменти по неодобрени, неочаквани или лошо управлявани начини.

„Shadow AI“ се случва извън видимостта на организацията. „Shady AI“ се случва вътре в нея. И това го прави много по-труден за забелязване, контрол и управление.

Управлението на ИИ не е отговорност единствено на екипа по сигурността. Но когато ИИ докосва чувствителни данни, корпоративни системи или контроли за достъп, сигурността има критична роля. Проучване на SANS от юли 2026 г. установи, че 76% от екипите по сигурността вече имат роля в управлението на корпоративния ИИ.

Но екипите по сигурността не трябва да се притесняват само за „shadow AI“. Те трябва да мислят и за „shady AI“.

Разликата има значение, тъй като одобряването на даден инструмент вече не е същото като одобряването на неговото използване.

Можете да блокирате или забраните неразрешен инструмент, но не можете просто да блокирате нещо, което вече сте одобрили и внедрили в цялата организация. Лостът за контрол, който екипите по сигурността са свикнали да дърпат, тук не съществува.

Подобно на „shadow AI“, „shady AI“ има реални последствия:

  • Рискове за сигурността като повишено излагане на пробиви на данни, регулаторни инциденти и изтичане на данни
  • Финансови разходи от нарастващи разходи за ИИ, включително токени, похарчени за дублиращи се или маловажни задачи
  • Организационно забавяне, тъй като затегнатите контроли блокират иновациите и увеличават триенето за служителите
  • Прегаряне (burnout) на екипите по сигурността и ИТ, тъй като се отделя време за ретроспективно управление и одити на инструменти, вместо за проактивно намаляване на повърхността за атака и укрепване на контрола на достъпа

Има три основни причини, поради които „shady AI“ се случва сега:

  1. Разпространението на одобрени ИИ инструменти: Тъй като организациите продължават да инвестират в ИИ инструменти, възможностите за „shady AI“ растат. Подобно на разрастването на SaaS преди него, увеличеното приемане създава по-голям и по-сложен технологичен стек от ИИ, който сигурността и ИТ трябва да управляват. С ограничени ресурси е все по-трудно да се разбере как всяка ИИ функционалност се използва във всеки инструмент и система.
  2. Правата за достъп са широки по подразбиране: ИИ вече е вграден в инструментите, които служителите вече използват, и функционалността се разширява по-бързо, отколкото екипите по сигурността могат да насмогнат. Одобрен ИИ асистент може да започне като начин за резюмиране на документи, а след това да придобие способността да търси във вътрешни бази знания, да осъществява достъп до бизнес приложения, да създава работни процеси или да предприема действия от името на служителя. Функциите за съответствие и сигурност от корпоративен клас – като ограничаване на използването на ИИ инструменти само до устройства в домейна на компанията – често са зад най-скъпите лицензионни нива, докато самите ИИ функции са налични по подразбиране. Инструментът не се е променил непременно от гледна точка на управлението. Променило се е това, което служителите могат да правят с него.
  3. Моделите на използване се развиват по-бързо от политиката: Служителите могат да използват ИИ, вграден в одобрени инструменти, за да изграждат приложения и да ги внедряват, преди сигурността и ИТ дори да разберат за съществуването им. Организациите могат да заключат контролите, за да забранят една рискова практика, само за да открият, че служителите вече са приели нов инструмент или са открили друг път към същия резултат. Резултатът е разширяваща се пропаст между това, което политиката казва, че служителите трябва да правят, и това, което ИИ прави възможно.

Какво пропуска традиционното управление:

Традиционното управление е изградено около дефинирането на това какво е разрешено и обучението на служителите да спазват правилата. Това работи по-добре, когато технологията и нейните случаи на употреба са предвидими. ИИ прави и двете движещи се мишени.

  1. Политиките не могат да предвидят всеки случай на употреба: Политиката за приемливо използване (AUP) може да установи принципи, но не може да предвиди всяка нова възможност, която ИИ инструментът може да придобие, или всеки начин, по който служителите могат да го използват. Одобрен ИИ асистент може да бъде разрешен за резюмиране на документи днес, а утре да придобие способността да търси във вътрешни знания, да осъществява достъп до бизнес приложения, да създава работни процеси или да предприема действия от името на служителя.
  2. Еднократното обучение не може да отчете постоянно развиващите се ИИ възможности и модели на използване: Много нетехнически служители също все още нямат ментален модел за безопасно и отговорно използване на ИИ. Правилата са написани на речник, на който никой не ги е научил, което затруднява прилагането на принципи като най-малки привилегии или управление на тайни.
  3. Ограниченията създават заобиколни начини: Заключването на отделни възможности може да адресира конкретен риск, но не решава основния проблем. Тъй като ИИ възможностите...