Изкуственият интелект позволява на киберпрестъпниците да проникват все по-дълбоко в организациите, надминавайки възможностите на обикновените фишинг имейли.
41% от ръководителите по информационна сигурност (CISO) съобщават за поне един инцидент на социално инженерство, включващ deepfake по време на аудио разговор със служител през последните 12 месеца, според Gartner. 36% съобщават за същото при видео разговор.
79% от анкетираните CISO докладват за поне един инцидент на фишинг, целеви фишинг (spear-phishing) или компрометиране на бизнес имейл (BEC) през изминалите 12 месеца. 58% съобщават за вишинг (vishing) или смишинг (smishing) инцидент.
„Атакуващите могат да комбинират фишинг, компрометиране на бизнес имейли, синтетични медии и обобщен личен контекст в множество канали“, заявява Крейг Портър, директор анализи в Gartner.
„Повечето атаки ще продължат да разчитат на потребителите, откраднати идентификационни данни, слаби процеси за възстановяване на достъпа и познати технически методи. Ръководителите по сигурността трябва да прилагат същата дисциплина, използвана за оценка на рисковете за самоличността и достъпа, за да се борят със заплахите от социално инженерство, базирани на ИИ“, добавя Портър.
Проучването обхваща 297 старши лидери по киберсигурност и е проведено между март и май 2026 г.
Gartner препоръчва три стъпки за CISO
Обучението на служителите да „разпознават фалшификатите“ вече не е достатъчно. Потвърждението трябва да се превърне в стандартна реакция за всяка заявка, съдържаща риск, независимо дали е получена по имейл, телефонен разговор, видео среща, инструмент за съвместна работа или приложение с ИИ.
Възстановяването на профили, привилегированият достъп и авторизацията на плащания са работните процеси, които атакуващите атакуват най-често, затова те се нуждаят от устойчива на фишинг автентификация, контроли на самоличността, базирани на риска, и канали за потвърждение, които киберпрестъпниците не могат да фалшифицират.
Откриването на тези атаки изисква свързване на отделните елементи. Данните за съмнителна комуникация и опитите за представяне под чужда самоличност трябва да се съпоставят със събития за възстановяване на профили, нови устройства, промени в привилегиите и финансови трансакции.
„Актуализирайте процедурите за реагиране при инциденти (playbooks) за многокомпонентно представяне под чужда самоличност, манипулирани препоръки от ИИ, компрометирани или злоупотребени автономни агенти и, където е приложимо, агенти, действащи извън предназначените им граници“, отбелязва компанията.
Измамите с ИИ стават все по-рудни за откриване
Проблемът е, че технологията на изкуствения интелект продължава да се подобрява и за хората става все по-трудно да правят разлика. Почти девет от десет възрастни заявяват, че вече не могат да разграничат реалното от генерираното от ИИ съдържание, според проучване на Malwarebytes.
Един от най-често цитираните случаи е инцидент от 2024 г. в Хонконг, при който финансов служител в хонконгския клон на мултинационална фирма се присъединява към видео разговор, вярвайки, че в него участват финансовият директор на компанията и няколко колеги. В резултат на това служителят превежда над 25 милиона долара по сметки, контролирани от измамниците.
Проучване на Jumio установява, кратно 69% от анкетираните в световен мащаб смятат, че измамите, задвижвани от ИИ, в момента представляват по-голяма заплаха за личната сигурност от традиционната кражба на самоличност.
Дийпфейк технологията е един от основните инструменти, които севернокорейски оперативни работници използват, за да се инфилтрират в западни компании като дистанционни ИТ служители.
Засичането на deepfake съдържание също е част от проблема. Изследователи от Vector Institute посочват, че откриването, разглеждано като самостоятелна техническа възможност, губи позиции и най-вероятно ще продължи да ги губи с постоянното подобряване на генеративните модели.