Генеративният изкуствен интелект заличава поведенческите белези и отслабва чисто поведенческото откриване на заплахи, съобщава Proofpoint

Генеративният изкуствен интелект промени начина, по който изглежда един злонамерен имейл. Съобщения, които преди се издаваха чрез тромав изказ, общи претексти и повторно използвани шаблони, сега пристигат с гладък език, персонализирани и уникални за всеки получател, като в резултат на това поведенческите сигнали, на които имейл филтрите разчитаха с години, отслабват.

Proofpoint сподели няколко примера за тази промяна на своята конференция Protect 2026. В единия от тях отделен злонамерен субект се свързва с над 30 брокери на недвижими имоти в същата компания, всеки път от различен акаунт, за различен имот и с различни думи, преди да приключи всяка кореспонденция с едно и също искане: включване във видео среща.

Федералните данни сочат в същата посока. Центърът за жалби от интернет престъпления (IC3) на ФБР отчете над 22 000 жалби, свързани с изкуствен интелект през 2025 г., с близо 900 милиона долара съпътстващи загуби, и регистрира 24 768 жалби за компрометиране на служебна електронна поща (BEC) с докладвани загуби от около 3,05 милиарда долара, според своя доклад за интернет престъпленията за 2025 г. (2025 Internet Crime Report).

Какво промени изкуственият интелект

Имейл филтрите бяха създадени за атакуващи, които трябваше да пестят ресурси и усилия. Проучването на мишена, убедителното писане на чужд език, представянето за доставчик и генерирането на достатъчно варианти за преодоляване на сигнатурите отнемаше време, така че атакуващите използваха повторно шаблони и инфраструктура, а това повторно използване оставяше модели. Поведенческото откриване се научи да ги разпознава: нова инфраструктура, несръчен език, необичайно време на изпращане и искания, които не пасват на разговора.

Генеративният изкуствен интелект премахва тези ограничения:

• Език. Гладък, локализиран текст на всякакъв език, без печатни грешки или артефакти от машинен превод.
• Контекст. Отговори, които съответстват на хронологията на разговора, ролята на получателя и времето на изпращане.
• Самоличност. Напаснат стил на писане, блокове с подписи и напълно фабрикувани хронологии на разговори.
• Вариативност. Уникално съобщение за всеки получател, генерирано за секунди, така че липсва шаблон за сравнение.

Резултатът, според Proofpoint, е, че поведението се превръща във все по-слаб сигнал. Когато изкуственият интелект позволява на атакуващите да направят всяко съобщение да изглежда нормално, анализът също трябва да се промени — от въпроса дали дадено съобщение изглежда необичайно към въпроса какво се опитва да постигне то.

Тридесет разговора, едно искане

Кампанията срещу сектора на недвижимите имоти показва как изглежда това на практика. Написването на над 30 отделни, достоверно звучащи запитвания за имоти, всяко съобразено с различна обява и различен агент, е точно такъв тип задача, каквато генеративният изкуствен интелект вече върши за секунди. Първоначалните въпроси бяха съвсем обичайни: дали имотът все още е свободен за оглед, каква е ориентировъчната цена, дали е възможен оглед през тази седмица. Пощенските кутии на подателите бяха истински, а отговорите попадаха в разговори, на които агентите вече отговаряха.

В една от кореспонденциите запитване за оглед, изпратено в 2:58 ч. сутринта, се превръща в покана за среща 13 минути по-късно, оформена с брандиран шаблон и твърдение, че срещата изисква „незабавното внимание“ на брокера. Връзката за включване представляваше автентично пренасочване през google.com, така че проверките за репутация преминаваха чисто, докато параметър в URL адреса препращаше кликването към несвързан сайт.

Тъй като всеки изпращач осъществяваше първи контакт, поведенческите филтри нямаха предишна история за сравнение, а тъй като всяко съобщение беше различно, нямаше повтарящо се съдържание за засичане. Общото между съобщенията не беше начинът, по който изглеждат, а това, което се опитваха да накарат получателя да направи.

Изкуственият интелект улеснява прилагането на този модел срещу всеки бизнес, който зависи от комуникация с непознати лица, включително клиники, приемащи нови пациенти, фирми, сключващи договори с нови клиенти, банки, откриващи сметки, и застрахователи, изготвящи оферти за полици, заявява Proofpoint. Вариант, насочен към застрахователни агенти, използва искания за оферти, препоръки от съседи и въпроси относно покритието, за да изгради доверие, преди да изпрати фалшифицирана покана за конференция, която доставя зловредния код.

Смущения и саботаж, задвижвани от изкуствен интелект

Изкуственият интелект също така улесни провеждането на кампании, чиято цел е по-скоро да предизвикат смущения и саботаж, отколкото кражба. Proofpoint описва враждебни комуникационни кампании, при които стотици или хиляди податели пишат на едни и същи ръководители, всеки по тема, съобразена с отрасъла на мишената. Някои съобщения съдържат обиден език; други носят генерирани или манипулирани с изкуствен интелект изображения, които осмиват получателя.

Тези съобщения нямат връзка за активиране и нямат идентификационни данни за събиране, като всяко едно от тях би могло да мине за отделен ядосан кореспондент. Оценяването на съобщенията едно по едно няма да ги улови. Анализът трябва да разпознае разрушителното намерение в целия масив и да анализира текста и изображенията заедно, тъй като враждебността може да се крие в генерирано от изкуствен интелект изображение.

Легитимност при поискване

Същата промяна важи и за фишинг инфраструктурата. Един инструментариум за фишинг като услуга (phishing-as-a-service), подчертан от Proofpoint, представя един и същ работен процес зад четири различни маскировки: портал за достъп до съда, заявка за подписване на документ, проверка на самоличността и библиотека с финансови отчети. Всяка страница показва код за потвърждение и насочва жертвата към легитимна страница за вход, където да го постави. Тъй като атакуващият е генерирал кода, въвеждането му упълномощава сесията на атакуващия — техника, известна като фишинг с код на устройството (device-code phishing).

Смяната на маскировката е елементарна за оператора, така че визуалните и езиковите отпечатъци, които защитниците биха могли да съпоставят, се променят от една кампания към следващата, докато целта остава постоянна.

Компрометирането на служебна електронна поща (BEC) показва ефекта на изкуствения интелект върху контекста най-ясно. В друг пример отделен имейл съдържа цитирана кореспонденция, в която фалшифициран одиторски доставчик и ръководител в целевата компания изглежда постигат съгласие относно фактура, 50-процентна отстъпка за лоялност и дата на плащане. Прикачената фактура детайлизира етапите на одита, часовете и тарифите, а заключителният ред изисква плащане в същия ден към адрес за парични преводи, който се различава от действителния адрес на подателя.

Промяна на анализа: от поведение към намерение

Ако изкуственият интелект позволява на атакуващите да контролират начина, по който изглежда едно съобщение, сигналът, който остава, е какво се опитва да постигне то. Подходът на Proofpoint оценява тази цел, дали тя е правдоподобна предвид взаимоотношенията и разговора, както и каква техника се използва за нейното преследване. Компанията обяви своя Nexus Intent-Based Detection Model през септември като част от това, което нарича система за сигурност на съвместната работа с агенти (Agentic Collaboration Security).

Искане за промяна на банкови данни илюстрира този подход. Съобщението идва от реалната пощенска кутия на познат доставчик, в рамките на действителна кореспонденция, с безупречна репутация, а езикът му е точно такъв, какъвто изкуственият интелект създава с лекота. При анализ на намерението обаче се открояват пет детайла:

• Това е първата промяна на банкови данни от доставчика от години насам.
• Искането не съответства на нишката за потвърждение на фактура, на която отговаря.
• Крайният срок е обвързан с конкретен график за плащания.
• Подателят моли комуникацията да се води извън общата нишка и само с едно лице.
• Възможността за проверка е предварително пресечена с твърдението, че финансовата пощенска кутия е „в процес на миграция“.

Изкуственият интелект може да шлифова изказа на подобно искане. Но намерението неизменно трябва да съвпада с пътя на атакуващия към успеха — независимо дали става дума за кликване върху линк от страна на потребителя, въвеждане на идентификационни данни или присъединяване към среща. Ето защо анализът на намерението остава ефективен там, където поведението вече е по-малко надежден показател.

Proofpoint позиционира анализа на намерението като трети слой, а не като заместител. Традиционното откриване, изградено върху правила, сигнатури, репутация на инфраструктурата и индикатори за компрометиране (IoC), все още отстранява познатите заплахи бързо и в мащаб. Съвременното откриване, базирано на разузнавателни данни за авторите на заплахи и поведенчески базови линии, все още засича известни злонамерени субекти и податели, които се отклоняват от нормата. Логическият анализ на намерението е насочен към генерираните с ИИ съобщения, които успяват да преминат и през двата слоя.

Защитниците също използват ИИ тук. Тъй като извършването на задълбочен анализ с езикови модели върху всяко съобщение би забавило твърде много потока от електронна поща, моделът е разделен на три нива, съобразяващи дълбочината на анализа със степента на неяснота:

• Ниво едно (светкавични модели) оценява цялата поща за под 500 милисекунди чрез машинно обучение, разузнаване на заплахите, компютърно зрение и езикови модели.
• Ниво две (разширено мислене) обработва по-малко от 1 процент от съобщенията в рамките на секунди до минути, като добавя анализ в изолирана среда, оценка на темата и тона, както и организационен граф.
• Ниво три (задълбочено мислене) обработва по-малко от 0,01 процента за броени минути, като включва многостепенен анализ с езикови модели, глас и видео, както и профили на привилегировани лица.

Съобщение, което дадено ниво не може да класифицира окончателно, преминава към следващото, а заключение за злонамереност може да бъде постановено на всяко едно ниво. Организационният граф е проектиран да разкрива кампании като примера с недвижимите имоти, при които модифицирани чрез ИИ искания попадат в различни части на една и съща компания, но нито една отделна пощенска кутия не получава повече от едно съобщение.

Разследване със скоростта на машините

Изкуственият интелект съкрати и времевите рамки за действие на атакуващите. Автоматизираните кампании могат да генерират и адаптират стотици съобщения за времето, за което един аналитик извършва триаж на едно-единствено, така че пропуснатото засичане рядко се свежда до отделен имейл; то често представлява кампания, която вече включва получени отговори, вписвания в профили и промени в пощенските кутии. Proofpoint твърди, че процесът на разследване също трябва да се промени — от ръчен преглед тикет по тикет, воден от аналитици, към автономно агентно разследване, което да не изостава от темпото на атакуващия.

Техният Threat Investigation Agent е създаден да провежда цялостно разследване в имейли, самоличности, съобщения, браузърна активност и действия на доставчици, да очертава радиуса на поражение и да връща резултатите обратно в системата за засичане. Приложимите сценарии включват превземане на профили, триаж на пощенски кутии за сигнали за злоупотреби, напреднали кампании, обратна връзка при фалшиво положителни и фалшиво отрицателни резултати, както и искания за разследване от трети страни.

В един примерен случай фишинг примамка за кражба на идентификационни данни, прикрита като искане за оферта (RFP), води до компрометиране на профила на служител от финансовия отдел. Атакуващият се вписва първо от Ню Йорк, а след това от Далас, добавя правило в пощенската кутия за скриване на отговорите и изпраща около 100 фишинг съобщения до 42 вътрешни получатели. Агентът локализира и изолира инцидента четири минути след задействането му, като изтегля 92 изходящи съобщения, изтрива правилото, блокира URL адреса и възстановява настройките на потребителя.

Четири действия с по-сериозни последици, включително нулиране на пароли и 14 дни инспекция на изходящия трафик, са задържани за ръчно одобрение от човек. Случаят отразява и това, което агентът не е могъл да установи — например кой е кликнал върху връзка, намираща се в PDF файл и никога непренаписана, — и документира неуспешните действия, като например недовършени опити за поставяне под карантина.

Защита срещу целите на атакуващите, а не срещу външния им вид

Примерите, споделени от Proofpoint, водят до едно и също заключение: генеративният изкуствен интелект промени ландшафта на заплахите по-бързо, отколкото поведенческият анализ може да навакса. Сега нападателите могат да направят всяко съобщение гладко формулирано, правдоподобно и уникално, да провеждат кампании, които изглеждат като рутинна бизнес комуникация, и да ги адаптират със скоростта на машините. Поведенческите белези, на които филтрите някога разчитаха, постепенно изчезват.

Променената заплаха изисква променен анализ: запазване на традиционното и съвременното засичане за онова, което те все още улавят надеждно, добавяне на логически анализ, базиран на намеренията, който изследва каква е крайната цел на дадено съобщение, мащабиране на тези изчисления на нива, така че да не изостават от входящия поток на пощата, и разследване на инцидентите със същата скорост, с която действат съвременните атакуващи.

Научете повече за подхода на Proofpoint към изкуствения интелект и вижте демонстрация в Proofpoint Nexus.