Испанската агенция за защита на данните (AEPD) съобщи за първия си пробив в сигурността на данните, приписан на AI агент, действащ самостоятелно, след като системата е влязла в мрежата на компания, открила е начин да промени лични данни и е извлякла данни от фактури.
„Преди да се правят каквито и да било изводи, трябва да се има предвид, че наличната информация идва от уведомлението, подадено от засегнатата организация, и ще изисква допълнителен анализ“, заяви Франсиско Перес Бес, заместник-директор на AEPD.
Използването на определен AI модел, добави той, не означава, че моделът или инфраструктурата на неговия доставчик са били компрометирани, нито че „инструментът е бил проектиран за извършване на злонамерени дейности“.
Според публикацията в блога, атакуващият агент първоначално е сканирал генерични файлове за слабости, след което е влязъл успешно в системата. Той е търсил самостоятелно в целевото приложение, докато е открил уязвимост, и е използвал тази уязвимост, за да промени лични данни и да достигне до фактури.
„Това първоначално уведомление не ни позволява да установим статистическа тенденция, въпреки че представлява значителен знак, че атаките, поддържани от изкуствен интелект, са престанали да бъдат теоретичен риск и започват да се материализират в инциденти, които засягат реалната обработка на лични данни“, отбеляза Перес Бес.
Агенцията определи изкуствения интелект като фактор, увеличаващ скоростта, мащаба и способността за адаптиране на вече известни злонамерени техники, което намалява времето, с което разполагат защитниците, за да открият и ограничат атаката.
Испанският Национален криптологичен център стигна до подобно заключение в своето ръководство за офанзивен AI, като го нарече оперативна възможност, вече внедрена в реални кампании. Ръководството препоръчва по-силни базови контроли, по-бързо управление на уязвимостите, по-строга защита на идентичността, по-близък надзор над доставчиците и по-добро управление на използването на агенти.
„Навлизането на AI агенти в офанзивната сфера трябва да подтикне към незабавен преглед на моделите за сигурност и защита на данните.“
„Длъжностните лица по защита на данните, мениджърите и делегатите трябва да се подготвят за сценарий, в който скоростта на атаките ще се увеличи, но в който същите основи ще продължат да бъдат от решаващо значение: разбиране на дейностите по обработка, минимизиране на данните, ограничаване на достъпа, коригиране на уязвимости, контрол на доставчиците и готовност за реагиране“, заключи Перес Бес.
AI агентите тестват границите на сигурността
Атаките, управлявани от AI, се натрупаха в заглавията през последните няколко месеца. Според AI Threat Tracker за Q3 2026 на Google Threat Intelligence Group, авторите на заплахи вече автоматизират сканирането за уязвимости, събирането на идентификационни данни и отстраняването на неизправности с по-малко човешка намеса.
През юли Hugging Face, широко използвана платформа за споделяне на модели за машинно обучение с отворен код и набори от данни, разкри пробив, извършен от автономен AI агент, който е излязъл от вътрешна оценка на безопасността.
Gолу-горе по същото време Anthropic разкри, че нейните модели Claude са получили неоторизиран достъп до системите на три организации по време на техни собствени оценки на киберсигурността, след като грешна конфигурация е оставила тестовата среда свързана с отворения интернет.
- агентен AI
- киберриск