Кибератаките все по-често се изграждат около познати действия: влизане в профил, одобряване на плащане или използване на доверено приложение. Изкуственият интелект може да помогне на атакуващите да повтарят тези действия със скорост, което прави финансовите измами и мрежовите пробиви по- трудни за откриване, преди да са нанесени щети.

Заплахите приемат различни форми. Някои автоматизират части от проникването в мрежа, докато други имитират ръководители във видео разговори, крият се в мобилни приложения или поставят фалшиви форми за плащане върху легитимни страници за плащане.

Споделената уязвимост е погрешно поставеното доверие в една наглед нормална интеракция. Тези атаки изискват непрекъснати проверки на самоличността и поведението, а не само доверие при вход в системата.

Докладът обединява шпионаж, мобилен зловреден код, измами и изнудване, вместо да описва едно ново семейство зловреден софтуер. Последиците варират от откраднати данни от телефони и платежни данни до големи измамни преводи и репутационни щети.

Trellix заяви в доклад, споделен с Cyber Security News (CSN), че атакуващите използват автоматизация, за да коригират методите си, и убедителен екран или разпознаваем глас вече може да не предоставят достатъчно увереност, че дадена заявка е автентична.

Автономните атаки се възползват от дигиталното доверие

В свързаната с Китай шпионска кампания GTG-1002 се съобщава, че AI агенти са поели от 80% до 90% от оперативните задачи. Човешките оператори са вземали около четири до шест ключови решения, включително избор на цел и одобряване на кражбата на данни, докато софтуерът е извършвал голяма част от работата между тях.

Случаят илюстрира как едно проникване може да се движи по-бързо, когато атакуващите делегират рутинните стъпки на софтуер. Предишни публикации за шпионаж, оркестриран от AI, описват как кампанията е използвала автоматизирано разузнаване, събиране на идентификационни данни и разработване на експлойти за поразяване на цели в няколко сектора.

При телефоните PromptSpy показва по-тясно, но практическо използване на AI. Този зловреден код за Android чете какво се появява на екрана на устройството и изисква инструкции за взаимодействие с него. Вместо да разчита на фиксирани позиции на бутоните, той може да адаптира действията си спрямо интерфейса, който вижда.

Той използва разрешения за достъпност (accessibility permissions), за да поддържа приложението си активно и да поставя невидими слоеве върху контроли, които биха могли да го спрат или премахнат. Нашият доклад за мобилния зловреден код PromptSpy обяснява как той може също така да прихваща екранна активност и информация от заключения екран, давайки на атакуващите път към чувствителни лични данни.

Trellix съветва да се ограничат разрешенията за достъпност и да се използва Safe Mode за премахване на приложението, когато неговите слоеве блокират нормалното деинсталиране. За организациите по-широкият извод за екипите по сигурност е да преглеждат необичайното поведение на устройствата, вместо да предполагат, че познатият интерфейс означава, че самото устройство е безопасно.

Измамата се крие зад познати действия

Обажданията с deepfake могат да превърнат една рутинна процедура по одобряване в скъпоструваща грешка. Trellix описва случай, при който фалшиво видео и аудио на фирмени лидери са убедили финансов служител да разпореди превод за 25 милиона долара. Обаждащият се изглежда е съответствал на очакваната йерархична верига.

Подобни измами се възползват от натиска да се реагира бързо на висшия персонал. Предишни отразявания на deepfake бизнес измами показват защо лице по време на разговор или познат глас не трябва сами по себе си да потвърждават дали заявката за плащане е истинска.

Атаките срещу онлайн плащания използват различен вид познатост. При т.нар. double-tap skimming фалшива форма за плащане първо улавя данните от картата, след което изглежда, че се проваля и пренасочва купувача към истинската форма. Крайната покупка пак може да успее, което прави първоначалната кражба лесна за пропускане.

Моделът е разгледан в доклади за double-tap skimming, където фалшив слой за плащане връща купувачите към легитимен процес на плащане. Trellix препоръчва симулирани тестове за плащане и редовни одити на магазините, за да се прихванат смущения или неоторизирани форми, преди клиентите да се сблъскат с тях.

Докладът обсъжда и LunaLock, за който се казва, че използва AI, за да намира чувствителни материали в откраднати данни и да прецизира исканията за изнудване.

Trellix съобщава, че групата е компрометирала над 95 000 профила, свързани с онлайн пазар за художници, което подчертава как изложените на риск файлове могат да останат проблем и след възстановяването на системите.

За плащания на голяма стойност Trellix препоръчва потвърждаване на заявките чрез отделен, установен канал, като обратно обаждане или предварително уговорен код.

Също така се настоява за автентификация, защитена от фишинг, непрекъснати проверки за уязвимости и криптиране на чувствителни документи. Тези стъпки проверяват самото действие, а не само самоличността, която изглежда го изисква.

Съкратете всяко разследване на SOC аларма с 21 минути. Задвижвайте вашия SOC с незабавен контекст на IOC за бърза реакция: Интегрирайте TI Lookup във вашия SOC