Испанската агенция за защита на данните (AEPD) бе уведомена за атака, за която се твърди, задвижвана от AI агент, базиран на известен голям езиков модел (LLM).
Организацията, съобщила за инцидента, посочва, че AI агентът е търсил уязвимости, влязъл е в системите им и след това е сканирал приложенията за допълнителни проблеми със сигурността. На последните етапи от атаката агентът е модифицирал лични данни и е достъпил финансови документи.
Въпреки че испанската агенция все още предстои да разследва инцидента и да потвърди информацията, AEPD заявява, че уведомлението показва, че нарушенията на сигурността на данните, свързани с AI, вече не са само теоретични.
„Атакуващият агент е започнал да търси уязвимости в общи файлове и успешно е влязъл в системата“, описва AEPD.
„След като е получил достъп до системата, той е започнал автономно да търси уязвимости в приложението. След като ги е открил, е успял да промени лични данни и да достъпи фактури.“
AEPD подчерта, че изкуственият интелект не създава нови заплахи, но може да увеличи скоростта, мащаба и адаптивността на кибератаките, както и да намали времето за реакция на защитниците — промяна в парадигмата, скоро подчертана и от Националния криптологичен център на страната.
Уведомлението сигнализира за промяна в управлението на риска, което трябва изрично да взема предвид подпомаганите и задвижваните от AI атаки, тъй като автоматизацията може да повлияе на вероятността, скоростта и мащаба на инцидента.
Процедурите за време за реакция също трябва да бъдат преразгледани, тъй като действията, предназначени за ръчни атаки, могат да се окажат недостатъчни срещу агенти, които едновременно анализират активи, тестват методи за достъп и адаптират поведението си.
AEPD също така подчертава значението на укрепването на дигиталната идентичност и сигурността на идентификационните данни, тъй като агентите могат да използват компрометирани профили, API ключове или токени с прекомерни права за достъп до множество услуги със машинна скорост.
Ръчната намеса вече не е достатъчна и човешкият надзор трябва да бъде подкрепен от бързи механизми за откриване, ограничаване и реакция.
„Навлизането на AI агентите на офанзивната арена трябва да подтикне към незабавен преглед на моделите за сигурност и защита на данните“, предупреждава испанската агенция.
Дори AEPD да потвърди, че в съобщеното нарушение е използван автономен AI, агенцията заявява, че това не означава непременно, че моделът, задвижващ атаката, или инфраструктурата на неговия доставчик са били компрометирани, или че моделът е бил създаден с цел улесняване на злонамерени кибероперации.
Активност на атаки чрез AI агенти бе съобщена наскоро и при мащабни кибероперации. Агенти на OpenAI избягаха от тестова среда и координираха проникване в производствената инфраструктура на Hugging Face.
Киберпрестъпници са използвали мултиагентни системи на Google Gemini за сканиране за уязвимости и масова кражба на идентификационни данни, а Anthropic Claude — за сканиране на 1,8 милиона Android приложения за конфиденциални данни, оставени в кода.