От години специалистите по киберсигурност проследяват различни видове зловреден код и откриват потенциални инфекции, използвайки цифрови отпечатъци за идентифициране на различни хакерски инструменти и проследяване на тяхната употреба във времето. Тъй като атакуващите все по-често внедряват агенти с изкуствен интелект (agentic AI) в своите хакерски инструменти, изследователи от Cisco Talos споделиха в понеделник рамка с отворен код, която се надяват да бъде широко използвана за класифициране и анализ на зловреден софтуер с интегриран ИИ. Те разполагат и с доказателства, че тя вече работи.

Те наричат рамката Cognitive Artifact Intelligence Research Network или CAIRN — кръстена на пирамидите от камъни (каирн), които туристите издигат по пътеките, за да маркират маршрута или да подчертаят нещо за дадено място. С разширяването на употребата на ИИ услуги от авторите на заплахи, изследователите от Cisco Talos използваха CAIRN, за да идентифицират хакерски инструмент с напълно автономна инфраструктура за командване и контрол (command-and-control). Наречен CLOSEDQUORUM, зловредният код планира действията си в целевата система, като запитва до четири големи езикови модела (LLM) за това какво трябва да направи и получава директивите си от този „колективен ум“ (hive mind).

„Основната идея е, че интеграцията на ИИ оставя след себе си определени следи, подобно на отпечатъци“, казва Райън Фетерман, изследовател по сигурността в Cisco Talos, който ръководи разработването на CAIRN. „Това ни дава сигнал, който можем да използваме, за да проследяваме тези проби, да ги класифицираме и да анализираме какво се случва. Какво опитват атакуващите? Какви видове нововъзникващи поведения наблюдаваме? Това е ценен ресурс за общността за защита, тъй като тези технологии стават все по-масови.“

През юли 2025 г. украинският екип за реагиране при инциденти с киберсигурността CERT-UA предупреди за фишинг кампания, открита с помощта на зловреден софтуер, известен като „LAMEHUG“. Имплантът комуникира с езиков модел, наречен Qwen2.5-Coder-32B-Instruct, чрез API на Hugging Face, за да получава команди. „По онова време си казах: „Уау, това е невероятно. Предстои голям бум на зловреден софтуер с ИИ и пейзажът напълно ще се промени““, казва Фетерман.

Година по-късно обаче, когато това лято прави ретроспекция на зловредния код с интегриран ИИ, Фетерман е шокиран, че все още открива само няколко документирани примера. „В действителност нямаше много. Мисля, че открих може би девет различни наименувани семейства зловреден софтуер“, като някои от тях са били концептуални доказателства (proofs of concept), създадени за изследователски цели, казва той. „Просто не беше това, което очаквах, и мисля, че ми беше трудно да повярвам, че това е реалността, в която се намираме. Затова исках да започна да се ровя по-надълбоко.“

Резултатът е CAIRN, която е проектирана да маркира характеристики и атрибути на ИИ интеграция от метаданни и да ги използва за класифициране и маркиране на проби от зловреден код със, същество, уникален идентификатор. След това системата анализира всеки артефакт в контекста на всичко в библиотеката на CAIRN и ги групира по различни черти, за да илюстрира потенциални тенденции и връзки. Фетерман споделя, че след като е работил и използвал CAIRN през последните няколко месеца, е открил около 20 допълнителни примера за зловреден код с интегриран ИИ.

„Така че, въпреки че смятам, че това все още е до голяма степен експериментално за киберпрестъпниците, пейзажът е много по-сложен и разнообразен, отколкото беше публично съобщено“, казва той. „Там се случват много неща и това осигурява ценен ранен сигнал за това какво предстои.“

Хакерският инструмент CLOSEDQUORUM, идентифициран от CAIRN, представлява зловреден софтуер за Windows, който се консултира с DeepSeek, Qwen, Mistral и Google Gemini, за да постигне консенсус относно следващите си стъпки. Дори ако една ИИ услуга е недостъпна, зловредният код продължава да запитва останалите, създавайки достатъчна излишност (извънредност), така че системата да е напълно затворена и да няма механизъм за човешка намеса. Изследователите от Cisco Talos откриха известни връзки между зловредния код и киберпрестъпни форуми за измами с кредитни карти, датиращи от 2025 г., като той е проектиран да краде идентификационни данни за вход и криптовалута. Изследователите обаче не можаха да потвърдят кой е разработил този зловреден код или дали той действително е бил използван при атаки в реалния свят.

„Първоначално всички виждаха ИИ като инструмент за производителност, нали?“, казва Мат Олни, старши директор по анализиране на заплахите в Cisco Talos, имайки предвид както легитимната работа, така и злонамерените хакерски атаки. „Сега виждаме, че той се операционализира. Така за атакуващите той позволява провеждането на повече кампании, засягането на повече пространства, управлението на повече и различни компютри, защото разполагат с тази много интелигентна кутия във фонов режим, която може да задава въпроси и да дава отговори.“