Престъпна услуга с изкуствен интелект, наречена MessiahGPT, се предлага на пазара в BreachForums като нецензурирана платформа за създаване на криптовируси (ransomware), фишинг комплекти, софтуер за кражба на данни (stealers), криптори, руткитове и съдържание за социално инженерство.
Изследователите от Trellix го описват като част от развиващ се подземен пазар, който превръща офанзивните възможности на изкуствения интелект в евтина абонаментна услуга.
MessiahGPT се рекламира като модел, изграден без защитите за сигурност, използвани от масовите платформи за изкуствен интелект. Неговите оператори твърдят, че той няма обучение с обратна връзка от хора (Reinforcement Learning from Human Feedback), конституционни контроли на ИИ или вътрешни ограничения, свързани с незаконни или вредни заявки.
Услугата е свързана с уебсайт в реално време, messiahgpt[.]de, и свързана общност в Telegram, а нейният маркетинг според съобщенията е насочен към потребители, търсещи съдействие за разработване на зловреден код и измами.
Според рекламираните спецификации MessiahGPT използва архитектура Mixture-of-Experts (Смес от експерти) със 128 експерти, активирайки 16 експерти за всеки токен. Операторите твърдят, че моделът е обучен върху неограничени ръководства, архиви от тъмната мрежа (dark-web), изтекли документи и сурови уеб данни.
Въпреки това Trellix предупреждава, че техническите твърдения на операторите не могат да бъдат независимо проверени. Изследователите потвърдиха, че платформата е активна и открито се популяризира в престъпните общности.
Бизнес моделът намалява бариерата за навлизане в киберпрестъпността. Съобщава се, че MessiahGPT предлага безплатни заявки без регистрация, последвани от абонаменти само с криптовалута, започващи от около 8 долара на месец.
Това позволява на неопитни атакуващи да тестват подкани за фишинг съдържание, зловредни скриптове или други вредни материали, преди да платят за постоянен достъп. По-големият риск не е просто създаването на една фамилия зловреден код.
Услугите, подпомагани от изкуствен интелект, могат да помогнат на атакуващите бързо да генерират варианти на фишинг имейли, целеви страници (landing pages), скриптове и зловреден код. Тези варианти могат да намалят ефективността на статичните филтри, които зависят от известни фрази, файлови хешове или предварително виждани шаблони.
Фишинг примамката може да бъде пренаписвана многократно за различни отдели, езици, марки и бизнес сценарии, което прави откриването на кампании по-трудно.
Екипите по сигурността трябва да се съсредоточат върху поведението, вместо да предполагат, че генерираната от ИИ извадка има уникален подпис. Защитата на имейлите трябва да проверява репутацията на подателя, неуспешните удостоверявания, поведението на връзките, резултатите от тестването на прикачени файлове в изолирана среда и необичайните заявки за влизане.
Защитата на крайните устройства трябва да наблюдава за подозрителни процеси, промени в привилегиите, масово модифициране на файлове, опити за достъп до идентификационни данни и неочаквана дейност по криптиране.
Мрежовият контрол също е от значение. Организациите трябва да използват регистриране на DNS, уеб филтриране и изходящ контрол, за да идентифицират или блокират достъпа до известна престъпна инфраструктура с изкуствен интелект, където е подходящо.
Undercode Testing съветва анализаторите да наблюдават за подозрителни търсения на домейни за ИИ, криптиран изходящ трафик и връзки към новорегистрирани домейни или такива с ниска репутация, като същевременно използват YARA правила и сигнатури за подпомагане, а не за заместване на поведенческото откриване и търсенето на заплахи.
Правилата трябва да са насочени към конкретно зловредно поведение, като например вградена логика за кражба на идентификационни данни, скрити изпълнения на команди, промени в разширенията на файлове от криптовируси или известни модели за управление и контрол (C2), вместо да се опитват да класифицират кода като „генериран от изкуствен интелект“.
MessiahGPT илюстрира търговската зрялост на престъпната екосистема с изкуствен интелект. Защитниците трябва да подхождат предпазливо към твърденията на подземните доставчици, но търсенето на неограничени инструменти с изкуствен интелект е реално.
Организациите, които комбинират силен контрол на идентичността, устойчиво на фишинг удостоверяване, телеметрия на крайните точки, видимост на DNS и тествани планове за реагиране при инциденти, ще бъдат в по-добра позиция да се справят с атаки с по-голям обем и бързо променящ се характер.