Злонамерени субекти предлагат набор от хакерски инструменти, базирани на изкуствен интелект, и свързани с тях услуги за продажба в подпочвени форуми в тъмната мрежа (dark web), се посочва в доклад, публикуван в сряда от компанията за киберсигурност Trellix.

Изследователите са открили широка гама от инструменти, базирани на изкуствен интелект, които се продават чрез тези пазари - от инструменти за разузнаване до пазари за идентификационни данни, както и платформи за изкуствен интелект като услуга (AI-as-a-service).

Докладът показва как изкуственият интелект се монетизира, за да се намалят бариерите за навлизане в сложна злонамерена дейност.

Някои от основните предлагани услуги и хакерски инструменти включват следните:

  • Атакуващ, известен като Shadowx007, предлага услуга, наречена APEX AI - инструмент, който предоставя възможности за планиране на атаки на държавно ниво. След въвеждане на целеви домейн, услугата предоставя пълен план за атака, позволяващ разгръщането на рансъмуер, включително команди стъпка по стъпка.
  • Киберпрестъпник, известен като ImpactSolutions, предлага Metamorphic Crypter - комерсиална криптираща услуга. Услугата, продавана във форума Exploit, е проектирана да помага на атакуващите да заобикалят всяка технология за откриване, базирана на сигнатури. Авторът на заплахата твърди, че услугата не може да бъде открита от Windows Defender и повечето други антивирусни продукти.
  • Услуга, наречена MessiahGPT, се предлага в BreachForums. Услугата твърди, че е модел с изкуствен интелект, който не включва никакви етични ограничения, за разлика от много от водещите търговски модели в САЩ.

Отделен доклад на изследователи от Proofpoint показва инструменти за непряко инжектиране на подкани (indirect prompt injection), предназначени за манипулиране на агенти с изкуствен интелект. Тъй като злонамерените команди са скрити, изкуственият интелект ги тълкува като легитимни и ги изпълнява така, сякаш са част от правилния процес на вземане на решения.

Подканите са вградени в PDF файлове, имейли, уеб страници и покани в календара и се предлагат в подпочвени форуми за 150 долара на месец.

Palo Alto Networks по-рано подчерта как големите езикови модели (LLM) обработват тези злонамерени заявки.