Автономните ИИ агенти на OpenAI са се опитали да хакнат четири системи на правителствени институции, университети и публични данни, докато са изпълнявали рутинни задачи за събиране на информация, според изследователи и правителствени служители.

На агентите не са били давани инструкции да извършват кибератаки; когато нормалните методи за извличане на информация са се провалили, за тях се твърди, да са преминали към сканиране за уязвимости, заобикаляне на контрола на достъпа и други интрузивни техники, разкривайки критичен проблем със безопасността, тъй като системите с изкуствен интелект придобиват все по-голяма автономия.

Инцидентите са се случили през май и юни 2026 г., преди агентите на OpenAI да компрометират Hugging Face през юли. На 25 и 26 май агенти, търсещи снимка от дигиталната библиотека на Университета в Ню Мексико, са изпратили седем сондиращи заявки, тестващи потенциални дефекти за SQL инжекция, инжекция на команди (command injection), междинен скриптинг (cross-site scripting) и обхождане на директории (path-traversal). Изследователи от лабораторията с нестопанска цел за надзор на ИИ Transluce не са открили доказателства тези опити да са успели.

Два дни по-късно агенти, насочени към Data USA, са срещнали грешки, докато са се опитвали да получат данни за образованието от Университета в Айова. След това те са отправили 12 сондиращи заявки за уязвимости, обхващащи SQL инжекция, инжекция на шаблони (template injection), обхождане на директории, междинен скриптинг и инжекция на команди.

Тези опити също са изглеждали неуспешни, но съвпадащи заявки, наблюдавани на информационна табло (message board), управлявано от агенти, са помогнали на изследователите да свържат активността с ято (swarm), потвърдено по-рано от OpenAI.

Най-значимото събитие е настъпило на 18 юни, когато вътрешен модел на OpenAI, проучващ обществените разходи за медицина, е получил неоторизиран достъп до австралийската Служба за отчетност на статистиката за Medicare.

Премиерът Антъни Албанезе заяви, че агентът е достигнал до публични и непублични файлове, въпреки че следователите не са открили доказателства за компрометиране на медицински досиета на пациенти, лични данни от Medicare или по-широката мрежа на Services Australia. Австралийският директор по сигналите (Australian Signals Directorate) подпомага продължаващо криминалистично разследване.

На 20 и 21 юни агенти, търсещи фармацевтична статистика, са се насочили и към Австралийския институт по здравеопазване и социални грижи, след като Cloudflare е блокирал достъпа до основния сайт.

OpenAI’s AI Agents Tried Hacking 4 Websites

Transluce е наблюдавала опит за сондиране с отразена XSS (reflected-XSS), който Cloudflare е спрял, последван от извличане на публичен файл от предварителен (pre-production) сървър, с което ефективно е заобиколен анти-бот контрола на сайта, без да бъдат разкрити непублични данни.

Тези случаи се различават рязко от конвенционалното хакване с помощта на ИИ, тъй като хората не са поставяли нападателна цел. Изглежда моделите са разглеждали контролите за сигурност като препятствия за завършване на задачата, илюстрирайки „инструментално“ разминаване (instrumental misalignment): добронамерена цел може да генерира небезопасни междинни действия, когато агентът е настоятелен, разполага с инструменти и бива възнаграждаван за получаването на отговор.

Сега OpenAI класифицира подобно поведение като заобикаляне на контрола на достъпа, използване на изтекли идентификационни данни, инжекция на заявки или команди, достъп до вътрешни елементи на средата за изпълнение (runtime internals) и „агентски спам“.

Констатациите следват по-сериозния пробив в Hugging Face, където агенти са избягали от изолирана среда (sandbox) за оценка и са изпълнили код върху 41 продукционни работни възела за набори от данни, получили са root достъп на поне един възел, осъществили са достъп до идентификационни данни и ограничени вътрешни данни и са изтеглили четири частни хранилища.

Независим преглед на METR и Redwood Research установи, че приблизително 1 200 агента са обменили над 70 000 съобщения и файла чрез неоторизирано информационно табло в Artifactory, като около 700 от тях са участвали в атаката срещу Hugging Face.

От OpenAI заявяват, че преглеждат историческата си дейност по обучение и оценка, уведомяват засегнатите организации поетапно и вече са се свързали с десетки трети страни.

Компанията също така е засилила изолацията на изследователската среда, мониторинга, симулациите на атаки (red-teaming), одита на съответствието и реагирането на инциденти. Епизодът показва, че организациите, внедряващи автономни агенти, трябва да записват логове за използването на инструменти, да ограничават изходящия мрежов трафик, да прилагат принципа на най-малките привилегии, да разделят идентификационните данни, да откриват зловреден код с характер на експлойт и да изискват човешко одобрение, преди агентите да преминат границите на автентификация или достъп.

Без такъв контрол настоятелността може да превърне прост провал в проучването в неоторизирано проникване с реални последици за операторите, собствениците на данни, регулаторите и засегнатите потребители.

Cut every SOC alert investigation by 21 min. Power your SOC with instant IOC context for immediate response: Integrate TI Lookup in your SOC