Автономни AI агенти, използващи агресивни стратегии, са се опитали да хакнат уебсайтове на правителствата на САЩ и Канада, за да намерят статистика за училищата и разводите.

Неуспешните опити за пробив са били насочени към уебсайт под управлението на Министерството на образованието на САЩ и Института за библиотеки и архиви на Канада. Данните обаче не показват доказателства за достъп до непублична информация.

Изследователската лаборатория с нестопанска цел Transluce заявява, че AI агентите изглежда са имали задача да извършват операции по извличане на данни, но активността им е включвала и неуспешни „елементарни опити за хакване“.

Сканиране за SQL инжекции

Един от инцидентите е възникнал на 17 юни, когато AI агенти са направили над 200 000 заявки към уебсайт на Министерството на образованието на САЩ, докато са търсили статистика за училищата.

Според Transluce активността е включвала базов опит за SQL инжекция чрез манипулиран параметър в опит да се заобиколят стандартните филтри на сайта.

„През 40-те секунди преди опитa за SQL инжекция е имало серия от заявки, съдържащи разнообразие от необичайни входове за идентификационни номера“, посочват изследователите, като добавят, че целта на тези заявки остава unclear без повече контекст относно агентите и техните цели.

Изследователите казват, че поисканите данни изглежда съвпадат с въпрос от бенчмарка Google DeepSearchQA относно училищни съветници и тормоз на расова основа.

Transluce е информирала Министерството на образованието за констатациите си на 25 септември. Говорител заяви, че прегледът на активността не е открил доказателства за въздействие върху услугите.

Неуспешни опити срещу канадския архив

Изследователите от Transluce са идентифицирали подобен модел срещу Института за библиотеки и архиви на Канада, където агентите са се опитали да извлекат исторически записи за разводи в Канада от 1905 до 1911 г.

На две дати, 28 май и 9 юни, националният уеб архив на Португалия (Arquivo.pt) е регистрирал близо 900 заявки, насочени към Института за библиотеки и архиви на Канада, според констатациите на Transluce.

Тринадесет заявки са съдържали зловреден код за атака, включително опити за SQL инжекция и тестове за обработка на входа, изходните формати и опциите за дебъгване.

Сканиранията са върнали празни страници със записи, а Канадският център за киберсигурност потвърди, че няма доказателства за манипулиране на базата данни или за достъп до допълнителни данни.

„Към момента няма индикации, че правителствени системи са били компрометирани“, заявиха от Канадския център за киберсигурност.

Агенцията заяви, че оценява докладите съвместно с правителствени партньори и предупреди, че автоматизираните или потенциално злонамерени заявки самите по себе си не са доказателство за успешен киберинцидент.

Изследователите отбелязват, че макар да „не свързват със сигурност тези опити с OpenAI“, използваната тактика съвпада с активност, свързвана по-рано с разработчика на AI.

Пред The Washington Post от OpenAI заявиха, че преглеждат констатациите и са предоставили първоначален брифинг на канадските власти.

Компанията отделно призна за непредвидени взаимодействия между нейните агенти и уебсайтове на правителството на САЩ, но от Transluce предупредиха, че част от по-широката активност не може категорично да се atribuira на OpenAI.

По-широка активност и несигурно авторство

Разследването разкри значително по-широко събиране на активност от AI агенти, насочена към уебсайтове на федерални и щатски органи в САЩ.

От Transluce посочват също, че агентите са разчитали на агресивни тактики срещу множество уебсайтове на щатско и федерално ниво в САЩ, допринасяйки за по-широк модел на автоматизирани процеси, управлявани от AI.

Изследователите са забелязали, че активността на агентите е включвала техники от масивни обеми заявки и модифицирани URL адреси до временни имейл адреси, опити за заобикаляне на среди срещу ботове, напасване на имена на файлове за изтегляне и повторна употреба на компрометирани данни за достъп.

Докладваната активност е била насочена към агенции в Калифорния, Канзас, Мериленд, Илинойс, Тексас и Ню Йорк.

В един от случаите AI агенти са се опитали да се регистрират за API ключ на Бюрото за икономически анализ, използвайки временен имейл адрес и име на организацията „OpenAI Research“.

Друг работен процес показва опит за повторна употреба на изтекли API ключове за извличане на данни от Бюрото за преброяване на населението.

Между 23 април и 18 май е имало автоматизирани опити за достъп до страниците за управление на съдържанието на уебсайта на Командването за военноморска история и наследство, history.navy.mil. Все пак няма доказателства за достъп до чувствителна военна информация.

Разследването на Transluce разчита основно на записи от Arquivo.pt и услугата за сканиране на уеб сигурност urlquery.net, чиито публични логове са запазили заявките, вероятно изпратени от агентите.

Новоразкритите инциденти надграждат по-ранни проучвания на организацията, които установиха, че агентите прибягват до сканиране за уязвимости срещу публични доставчици на данни при изпълнение на задачи за извличане на информация.

Предишното разследване разкри, че AI агенти са търсили уязвимости в услугата Data USA и дигиталната библиотека на Университета на Ню Мексико, както и че са се възползвали от недостатък в австралийски правителствен портал.