Генериращият изкуствен интелект (GenAI) бързо се превръща в част от ежедневните бизнес операции. Служителите използват AI асистенти за обобщаване на документи, търсене в корпоративната база от знания, изготвяне на съдържание и автоматизиране на рутинни задачи. Организациите също така започват да внедряват AI агенти, които взаимодействат с бизнес приложения и изпълняват работни процеси с минимална човешка намеса.

Тези технологии обещават значително повишаване на продуктивността, но също така въвеждат нови съображения за сигурност. Тъй като изкуственият интелект получава достъп до същите самоличности, бизнес данни и системи, които киберпрестъпниците вече атакуват, той може да увеличи скоростта и мащаба на ransomware атаките, ако не бъде правилно управляван.

Изкуственият интелект не създава напълно нова заплаха от ransomware. Вместо това той засилва техниките, които атакуващите вече използват, особено по време на разузнаване, злоупотреба с идентификационни данни и кражба на данни. Разбирането на това къде изкуственият интелект променя повърхността за атака се превръща във важна част от корпоративната киберустойчивост.

Два модела на заплаха с изкуствен интелект, които организациите трябва да разберат:

  • Атакуващи, използващи AI за подобряване на собствените си операции. Престъпните групи все повече разчитат на AI за генериране на фишинг имейли, писане на злонамерен код, автоматизиране на разузнаването, анализ на открадната информация и оптимизиране на изнудването. Изкуственият интелект позволява на атакуващите да работят по-бързо и в по-голям мащаб, без фундаментално да променят начина, по който се развиват ransomware кампаниите.
  • Организации, внедряващи корпоративен AI. AI асистентите и агентите все по-често се свързват с хранилища за документи, платформи за сътрудничество, SaaS приложения и вътрешни бази от знания. Ако киберпрестъпниците компрометират самоличностите или разрешенията, свързани с тези системи, изкуственият интелект може да ускори способността им да намират чувствителна информация, да навигират в свързани системи и да злоупотребяват с легитимен достъп.

Тези две тенденции протичат едновременно. Тъй като атакуващите стават по-ефективни чрез използването на AI, организациите трябва да се уверят, че техните собствени внедрявания на AI не разширяват неволно повърхността за атака.

Къде корпоративният изкуствен интелект създава нова уязвимост

Не всяко AI приложение представлява еднакво ниво на риск. AI асистентите основно извличат информация или генерират съдържание в отговор на подкани (prompts). AI агентите отиват по-далеч, като взаимодействат с бизнес приложения, извикват API и извършват действия от името на потребителя. Колкото по-големи са автономията и разрешенията на едно приложение, толкова по-голямо е потенциалното въздействие, ако свързаната с него самоличност бъде компрометирана.

Истинският проблем е делегираното упълномощаване. Модерните ransomware кампании обикновено започват с експлоатиране на уязвимости, компрометиране на идентификационни данни или злоупотреба с доверен достъп на трети страни. След това атакуващите извършват откриване на ресурси, ескалират привилегии, идентифицират ценни данни и извличат информация, преди да решат дали да криптират системите, да изнудват жертвите или и двете.

Microsoft съобщава, че анализира приблизително 38 милиона засичания на рискове за идентичността всеки ден, което подчертава колко централни са станали атаките срещу самоличността. Cloud Security Alliance също така документално доказа мащабни OAuth фишинг кампании с кодове на устройства, насочени към потребители на Microsoft 365.

Разширете киберустойчивостта към работни процеси, управлявани от AI, с Acronis

Приложенията с активиран AI въвеждат нови предизвикателства пред сигурността — от инжектиране на подкани (prompt injection) и неоторизиран достъп до данни, до подпомагано от AI разузнаване. Решението Acronis GenAI Protection помага да се идентифицира нерегламентираното използване на AI (shadow AI), да се наблюдават подканите и взаимодействията с изкуствения интелект, да се откриват нарушения на политиките и да се осигури видимост за рисковете, свързани с AI, заедно с телеметрията за крайни точки, идентичност, SaaS и архивиране. Укрепете откриването, реагирането и възстановяването с единна платформа за киберустойчивост.

Как компрометирането на идентичността превръща AI в ускорител на атаки

Тези атаки са от съществено значение за корпоративния AI, тъй като AI асистентите и агентите наследяват идентичностите и делегираните разрешения, под които работят. Когато атакуващите компрометират тези идентичности, те могат също така да получат достъп до AI услугите, корпоративните данни и свързаните приложения, достъпни чрез същите разрешения.

Един AI асистент, свързан с корпоративната база от знания, може драстично да намали усилията, необходими за намиране на чувствителна информация. Вместо ръчно да претърсва стотици папки, злонамерен субект с легитимни идентификационни данни би могъл да поиска от AI асистента да идентифицира документация за резервни копия, административни процедури, информация за клиенти или финансови записи.

По същия начин, ако даден AI агент има разрешение да изпраща имейли, да експортира файлове или да извиква свързани бизнес инструменти, киберпрестъпниците, които компрометират неговата самоличност, биха могли потенциално да злоупотребят с тези възможности, за да ускорят кражбата на данни или неоторизирани действия. Основният риск се крие в прекомерния достъп, а не в самия изкуствен интелект.

Инжектирането на подкани (prompt injection) е специфична за изкуствения интелект уязвимост на приложно ниво, но тя е само част от по-широкия риск, създаден от прекомерните разрешения, несигурните интеграции и недостатъчния надзор. Злонамерените инструкции, вградени в документи, имейли или уеб съдържание, могат да повлияят на поведението на изкуствения интелект, когато бъдат извлечени от корпоративните приложения. Въздействието зависи до голяма степен от...