От WorkOS съобщават, че базиран на изкуствен интелект агент за хакване, който е пробил вътрешното им приложение за продажби и е получил достъп до информация за клиенти, е бил управляван от изследовател по сигурността, който твърди, че инструментът е напуснал тестовата си среда и неволно е атакувал компанията.
Платформата за разработчици разкри пробива по-рано тази седмица, като посочи, че атакуващ е използвал платформата за офанзивна сигурност с изкуствен интелект ARTEX, за да автоматизира опити за разузнаване и експлоатация срещу нейните системи.
В ново известие за сигурност, публикувано в петък, основателят на WorkOS Michael Grinich обаче разкри, че отговорното лице се е свързало с тях и е заявило, че инцидентът е бил случаен.
„Малко след първоначалния ни бюлетин, изследовател по сигурността се свърза с нас и пое отговорност“, каза Grinich в публикация в X.
„Те ни казаха, че са тествали ARTEX, автономна рамка за тестове за проникване, когато техният агент е избягал от изолираната си тестова среда и е взаимодействал с WorkOS неволно.“
Твърди се, че изследователят е провеждал сравнителни тестове за киберсигурност с помощта на ARTEX, когато агентът е заработил извън предвидената среда и е започнал да взаимодейства със системите на WorkOS.
От WorkOS казват, че техният екип по сигурността и независим разследващ по дигитална криминалистика са съпоставили детайлите на заявките, времевите маркери и други технически артефакти, предоставени от изследователя, със системните журнали на компанията, потвърждавайки с висока степен на сигурност, че това лице е отговорно за неоторизираната дейност.
Изследователят също така е потвърдил, че всички данни на WorkOS, придобити от агента, са били изтрити и не са били споделяни с никого.
Макар от WorkOS да потвърдиха отговорността на изследователя за проникването, нито компанията, нито изследователят са предоставили публично подробности за това как агентът е напуснал тестовата си среда.
AI агентът е експлоатирал слаби идентификационни данни
От WorkOS посочват, че разследването е установило и четири слабости в сигурността, които са позволили на автономния агент да получи достъп до вътрешното приложение за продажби и да извлече информация за клиентите.
Засегнатото приложение е работело на остаряла платформа за вътрешни инструменти, в която са липсвали защитите за сигурност, използвани в по-новите системи на компанията.
Според WorkOS твърде свободният контрол на достъпа е оставил крайните точки на API на приложението открити към интернет, което е позволило на агента да ги открие и да взаимодейства с тях.
API интерфейсът също така е приемал предвидими идентификационни данни, предназначени за локална разработка, които по погрешка са били оставени внедрени в продукционна среда. Това е позволило на агента да се удостовери след откриването на достъпната крайна точка.
След като се е удостоверил, агентът се е възползвал от липсата на ограничение за честотата на заявките (rate limiting), за да извлече бързо записи от незащитеното приложение.
От WorkOS казват, че първият потвърден неоторизиран достъп е станал на 25 октомври, но дейността е останала незабелязана до 30 октомври, след като агентът вече е бил приключил с изтеглянето на клиентските записи.
Компанията е открила инцидента, когато служител е забелязал необичайно високо натоварване на система, свързана със засегнатото приложение.
Изложената на риск информация включва бизнес данни за контакт, история на клиентски акаунти, информация за използването на продуктите, както и резюмета или откъси от търговски разговори, дискусии по поддръжката и разговори с клиенти в Slack.
Ограничен брой комуникации с поддръжката са съдържали и имейл адреси на крайни потребители.
От WorkOS заявяват, че тяхното разследване, потвърдено от независима фирма за дигитална криминалистика, е установило, че инцидентът е бил ограничен само до данни, съхранявани в техните системи за продажби и обслужване на клиенти.
Компанията отбеляза, че от 3 ноември също е започнала редовно да тества собствените си системи с достъп до интернет чрез ARTEX – същата AI рамка за тестове за проникване, замесена в инцидента.
ARTEX е базирана на изкуствен интелект рамка за офанзивна сигурност, която преди това беше свързана с кибератаки срещу южнокорейски банки и Нидерландския институт за разкриване на уязвимости (DIVD).
Съвсем наскоро CrowdStrike съобщи, че китайската група за кибершпионаж Vapor Panda е използвала рамката в кампания, насочена срещу приблизително 200 организации.
Въпреки че изследователят твърди, че инцидентът с WorkOS е бил неволен, пробивът е поредната демонстрация на това как изкуственият интелект се използва за провеждане на автономни атаки, дори когато тези атаки са непреднамерени.