Киберпрестъпниците все по-често използват имената на доверени платформи за изкуствен интелект като пряк път за заразяване на потребителите със зловреден код.
Фалшиви страници за изтегляне, разширения за браузъри, реклами при търсене и споделени разговори с ИИ се използват, за да изглеждат вредните файлове и команди легитимни.
Кампаниите са насочени към хора, които търсят популярни ИИ инструменти, асистенти за програмиране и функции за производителност. Жертвата може да потърси инсталационен файл, да кликне върху спонсориран резултат или да инсталира на пръв поглед полезно разширение, само за да получи в замяна задна врата (backdoor), зловреден код за кражба на пароли или инструмент за отвличане на браузъра.
Изследователите от Sophos идентифицираха тази тенденция, след като прегледаха разследвания за управлявано откриване и реагиране в продължение на една година.
От 38 потвърдени случая, включващи враждебна активност, свързана с ИИ, 30 са свързани с имитация на софтуер. Това показва, че престъпниците използват предимно марките за ИИ злонамерено, вместо да използват самия ИИ за провеждане на атаки.
Въздействието засяга както отделни лица, така и организации. Откраднати сесии на браузъра, запазени пароли, лични файлове и данни от портфейли за криптовалута могат да дадат на атакуващите отправна точка за достъп до по-широки бизнес системи.
Sophos посочва в доклад, споделен с „Cyber Security News“ (CSN), че кампаниите се възползват и от една трудна реалност: потребителите са по-склонни да се доверят на подкана за инсталиране, когато тя носи познато име на ИИ.
Claude, ChatGPT и Copilot като стръв за истински зловреден код
Claude е най-често използваната стръв в проучването на Sophos, появявайки се в 26 случая. Атакуващите са използвали фалшиви страници на Claude, ChatGPT и Microsoft Copilot, за да разпространяват зловреден код чрез компрометирани реклами, отровени резултати от търсенето и домейни, създадени да наподобяват легитимни уебсайтове на доставчици.
Много инциденти разчитат на InstallFix, вариация на метода за социално инженерство ClickFix. Вместо да показва фалшива страница за грешка, атакуващият предлага изпипано ръководство за инсталиране, което указва на посетителите да копират и стартират команда. След това тази команда изтегля или стартира същинския зловреден код.
В един от случаите фалшив сайт на Claude насочва жертвите да изпълнят командата mshta, която извлича пакет с приложение за Windows, наречен claude или claude.msixbundle. Втора команда изпълнява код директно в паметта и се опитва да скрие дейността си в процеса на браузъра.
Същият подход се превърна в позната входна точка в по-широки операции със зловреден код. Скорошна кампания за разпространение на зловреден код чрез ClickFix по подобен начин използва фалшиви страници за проверка, за да убеди потребителите на Windows сами да изпълняват команди, превръщайки нормалните потребителски действия в начало на заразяване.
Sophos също така наблюдава разпространение на LummaStealer чрез инфраструктура с брандиране на ИИ, както и фалшив архив Claude Setup.zip, който инсталира вреден файл libcef.dll.
Друг преопакован файл claude.exe действа като зареждаща програма (loader), докато по-развит фалшив сайт използва странично зареждане на DLL (DLL sideloading), за да инсталира неоткритата досега задна врата Beagle.
Най-добрата ранна защита си остава проста: ИИ инструментите трябва да се изтеглят само от потвърдени домейни на доставчиците. Този съвет е важен, тъй като фалшивите страници могат да копират много точно официалния брандинг, оформленията и процесите на изтегляне.
Злоупотреба с разширения и доверени платформи
Злоупотребата не спира до инсталационните програми. Изследователите откриха браузърни разширения на тема ИИ, които се представят за полезни асистенти, докато събират данни от браузъра и комуникират с контролирани от атакуващите сървъри.
Тъй като на разширенията може да бъде предоставен широк достъп до сесии и съхранени идентификационни данни, те са особено привлекателни за крадците на данни.
В едно разследване четирима клиенти са инсталирали фалшиво разширение Perplexity, което отвлича търсенията и изпраща телеметрия за сърфирането в реално време.
Разширението пренасочва търсенията през perplexity-ai[.]online и показва начална страница след инсталирането, създавайки впечатление за нормална ИИ услуга.
Опасността не се ограничава до неизвестни сайтове за изтегляне. Sophos установи, че едно фалшиво разширение се е появило в Chrome Web Store с оценка 4.7 звезди, 67 отзива и 10 000 инсталации.
Тази привидна надеждност може да намали подозрението, подобно на зловредните ИИ разширения, насочени към предприятия, които събираха разговори и данни за сърфирането.
Атакуващите са започнали да поставят своята стръв и в доверени услуги. В няколко macOS кампании измамата се премести от фалшиви страници на марки към споделени разговори, хоствани на легитимна инфраструктура на ChatGPT.
След това жертвите са били инструктирани да поставят команди в терминала – техника, която се наблюдава и при компрометирани споделени чатове в Claude, използвани за разпространение на зловреден код за кражба на информация.
Организациите трябва да одитират свързаните с ИИ браузърни разширения, да проверяват издателя преди инсталиране и да премахват разширенията, които не са необходими.
Екипите за сигурност трябва също така да следят за необичайно изпълнение на команди, подозрителна дейност в PowerShell и процеси на браузъра, стартиращи системни инструменти, тъй като това поведение остава откриваемо, дори когато първоначалната стръв използва доверена марка за ИИ.
Зависимостите от ИИ заслужават същия контрол на веригата за доставки, както и другите софтуерни пакети. Sophos документира отровени пакети и злонамерени плъгини, които извличат отдалечен код, предупреждавайки, че автоматизираните инструменти за разработка могат да съкратят времето за внедряване на вреден пакет.