Персонализирани варианти на ChatGPT на OpenAI, рекламирани в спонсорираните резултати на Google, насочват нищо неподозиращи потребители към злонамерени сайтове, използващи ClickFix атаки за доставяне на зловреден код.
Атакуващият злоупотребява с легитимната функция на платформата за изкуствен интелект, която позволява на потребителите да създават версия на ChatGPT, адаптирана за конкретна задача, комбинираща инструкции, допълнителни познания и умения.
OpenAI хоства тези персонализирани GPT модели, които могат да бъдат публикувани за инсталиране и използване от други хора. Компанията планира да премахне персонализираните GPT модели на 11 декември.
Злонамерената кампания беше идентифицирана от Huntress, компания за управлявано откриване и реагиране (MDR), чиито изследователи съобщават, че тя е засегнала десетки потребители.
Киберпрестъпникът е наименувал злонамерения GPT модел „Plus 5.6“ и го е конфигурирал да насочва потребителите към уж резервен сайт, хостван в Google Sites.
Страницата обаче показва фалшива проверка от Cloudflare и дава инструкции на посетителите да изпълнят PowerShell команда, която задейства веригата на инфектиране.
Изследователите от Huntress са наблюдавали подобни атаки и в миналото, които са използвали подвеждащи разговори в ChatGPT за стартиране на ClickFix трикове и компрометиране на мишените, но използването на персонализирани GPT модели е нов подход.
И при двете атаки злонамерените инструкции се хостват на легитимния домейн ChatGPT.com, което придава легитимност на операцията и увеличава шансовете жертвата да последва указанията.
Ако се изпълни локално, предоставената PowerShell команда инсталира злонамерен MSI файл, който стартира легитимно, подписано приложение и модифицирана DLL библиотека, зареждаща зловредния код.
Злонамереният код, използван в тази кампания, е троянски кон за отдалечен достъп (RAT) с възможности за отдалечен достъп до работния плот, прихващане на аудио и видео от камерата, търсене на файлове, разузнаване на хоста и изпълнение на допълнителен зловреден код.
За постигане на устойчивост (persistence), зловредният код създава нов Run ключ в регистъра на Windows, както и планирана задача (scheduled task), и двете с име „Canon Configuration Reader“.
От Huntress заявяват, че са разследвали поне 40 инцидента, свързани със страницата в Google Sites, но потвърждават, че само два от тях са включвали вариант с персонализиран GPT.
OpenAI премахна първия GPT модел до 25 септември. Два дни по-късно, на 27 септември, изследователите откриха втори GPT модел, свързан със същата кампания, който все още е бил активен при публикуването на техния доклад.
По-скорошните атаки преминаха от подписано от Canon хост приложение към такова, подписано от Stardock, и промениха начина на прикриване и доставяне на модула за зареждане (loader), въпреки че инжектираният зловреден код остава същият.
От многостепенната верига на атака Huntress акцентира върху фаза 6, като отбелязва, че атакуващите са изградили персонализирана криптирана файлова система, за да скрият скрипта за устойчивост и RAT троянеца.
„Вместо един криптиран блок, това е персонализиран архив със собствено дърво от папки, практически домашно направен криптиран zip файл“, казват изследователите.
„Започва с малък хедър, последван от индекс от 1 128 записа (по един за всеки файл или папка, като всеки записва своя родителски елемент, размера си и ключ за отделния файл), и след това съдържанието на файловете, пакетирано последователно.“
Huntress посочва, като повечето фази от веригата на заразяване се изпълняват в паметта или се поддържат от файлове, които изглеждат добронамерени. Това позволява на защитниците да внедрят механизми за откриване, базирани на мониторинг на активността на процесите.
Изследователите предоставят набор от „възможности за откриване“, които включват пингване на msiexec.exe от страна на PowerShell с цел тихо стартиране на MSI инсталатор от временната папка.
Допълнителните признаци за компрометиране се отнасят до подписано приложение, стартиращо от необичайна папка в %LOCALAPPDATA%\Programs\, както и съвпадаща Run стойност и планирана задача, които се появяват отново, ако бъдат изтрити.