Доклад показва, че свързани с държави и киберпрестъпни групи хакери внедряват автоматизация и агентни технологии, за да откриват нови жертви и да заобикалят традиционните защити.
Авторите на заплахи все по-често използват агентен изкуствен интелект и автоматизация, базирана на ИИ, за да ускорят и мащабират атаките си, показва доклад, публикуван във вторник от Google Threat Intelligence Group. В допълнение хакерите нарочно насочват атаките си към проприетарни ИИ модели с цел кражба на идентификационни данни и придобиване на контрол над облачните среди на компрометирани организации.
Редица свързани с държави и киберпрестъпни групи са включили ИИ в рамките си за атака през последните месеци, което им позволява да откриват нови цели, да експлоатират уязвимости в сигурността и да проучват нови методи за атака. Изследователите предупреждават, че толкова много групи внедряват ИИ в инструментариума си, че защитниците трябва да очакват ИИ потенциално да играе роля в бъдещи атаки.
„На този етап можем да предположим, че всички автори на заплахи използват ИИ в някаква степен и техните операции са се облагодетелствали от това“, заяви Джон Хулткуист, главен анализатор в GTIG. „Както всички останали, ние сме загрижени за проблема с уязвимостите, но ИИ се прилага и в редица други области и ще бъде особено предизвикателство, когато се прилага агентно, създавайки мащабиран и по-бърз противник.“
Иновации при ИИ
Изследователите от Google посочват редица кампании, при които ИИ е бил внедрен в жизнения цикъл на атаката:
- Шпионска група, свързана с Китай и с история на атаки срещу държавни структури, наскоро е изградила автоматизиран пайплайн за експлоатация и последваща експлоатация с подкрепата на ИИ, използвайки базирани на ИИ инструменти за разработка. Злонамереният субект е използвал инструмент, наречен CC Switch, за да управлява различни големи езикови модели, които да отправят запитвания към Claude, Gemini или Codex. Тези инструменти са помогнали за създаването на персонализирани скриптове за експлоатация и фишинг примамки за целеви атаки.
- Група, свързана с Китай и проследявана като Basin Castle, е отправяла запитвания към LLM за профилиране на високостойностни цели, разработване на локализирани примамки за социално инженерство и писане на персонализиран зловреден код.
- Група, свързана с Иран и проследявана като Calanque Ion, е използвала генеративен ИИ – включително Gemini на Google – за разузнаване и социално инженерство. Те са използвали ИИ конкретно за целево търсене на имейл адреси, създаване на локализирани примамки за социално инженерство и превод на съдържание на местни езици. Групата също така е използвала ИИ в опити за обратен инженеринг на софтуер.
Проучване и тестване на ИИ модели
Изследователите от Google предупреждават, че авторите на заплахи участват и в кампании за дестилация на модели. Според техните оценки координирани кампании, някои от които надхвърлят 100 милиона подкани (prompts), са насочени към ИИ моделите на Google в опит да извлекат логиката на модела, способностите за разсъждение и процесите на верига от мисли (chain-of-thought).
Атакуващите също така внедряват прокси инфраструктура в опит да провеждат мащабни автоматизирани атаки. Хакерите изпращат запитвания, за да получат достъп до компрометирани идентификационни данни и фалшиви профили, които да им помогнат да заобиколят стандартните контроли за сигурност.
Преди това изследователите очертаха усилията на авторите на заплахи да внедрят ИИ в своите кампании за атаки, включително използването на авангардни ИИ среди (frontier AI).