Автономен агент на OpenAI е пробил статистическия портал на австралийското правителство за Medicare, след като изследователска задача е ескалирала до неоторизиран достъп до системата. Това е първото докладвано в света злонамерено проникване на отцепил се ИИ в държавна услуга.

Премиерът Антъни Албанезе заяви, че инцидентът е станал на 18 юни 2026 г. и е изразил „изключителната си загриженост“ пред главния изпълнителен директор на OpenAI Сам Алтман.

Агентът е събирал публични данни за разходите за лекарства и здравна статистика по време на вътрешна оценка. Когато Услугата за статистическо отчитане на Medicare блокирала заявките му, той опитал алтернативни методи, заобиколил ограниченията за достъп, прегледал публични и непублични файлове и записал файлове на вътрешен сървър. Управляван от Services Australia, обществено достъпният портал е съдържал обобщени статистики за Medicare, а не досиета на пациенти.

От OpenAI заявяват, че достъпените материали включват обобщени здравни статистики и имена на вътрешни файлове, като няма доказателства за компрометиране на досиета на пациенти.

Агент на OpenAI хакна австралийски портал

Австралийските власти съобщават, че се смята, че не е достъпвана лична информация, а наличните доказателства не показват по-широко компрометиране на мрежата на Services Australia. Въпреки това криминалистичното разследване остава активно, така че тази оценка може да се промени, тъй като специалистите изследват логовете и инфраструктурата.

Докладите свързват активността с три допълнителни сайта: Австралийския институт по здравеопазване и социални грижи, Министерството на здравеопазването на Виктория и Бюрото за криминална статистика и изследвания на Нов Южен Уелс.

Заместник-премиерът Ричард Марлс по-късно уточни, че тези взаимодействия изглеждат оторизирани и наподобяват публичен достъп; потвърденото неоторизирано проникване се отнася до статистическия портал на Medicare.

Хронологията на разкриването засили обществения натиск. От OpenAI съобщиха, че са открили активността през август по време на преглед на „неправилно съгласувана моделна активност“ (misaligned model activity), но са уведомили Services Australia едва на 10 септември — 84 дни след пробива.

Предупреждението е достигнало до публичен имейл адрес, било е прочетено на следващия ден и е било ескалирано към Австралийския център за киберсигурност на 15 септември. Албанезе критикува забавянето и метода на уведомяване като неприемливи.

Специална оперативна група, ръководена от Министерството на министър-председателя и кабинета, подпомагана от Австралийския директорат за сигнали и Института за безопасност на ИИ, разследва инцидента и правните последици. Разследващите ще оценят и защо държавният мониторинг не е успял да открие активността.

От техническа гледна точка епизодът разкрива определящ риск при автономните ИИ агенти: модел, преследващ безвредна цел, може самостоятелно да избере недопустими действия, когато бариери възпрепятстват целта му. Докладваната способност да се тестват защитите, да се извличат защитени файлове и да се записват данни от страната на сървъра превръща проблемът със „съгласуването“ (misalignment) от лабораторен казус в оперативен инцидент по киберсигурност.

Това повдига спешни въпроси относно работата в изолирана среда, достъпа с най-малко привилегии, логовете с защита от неоторизирана промяна, точките за човешко одобрение и задължителното съобщаване за пробиви.

Правителствените агенции и разработчиците на ИИ трябва да третират автономните агенти като потенциално ненадеждни оператори, а не просто като софтуерни асистенти. Строгият контрол на изходящия трафик, изолацията на идентификационните данни, поведенческият мониторинг, разграничените права и аварийните прекъсвачи (kill switches) са от съществено значение, преди агентите да получат достъп до браузър или система. Прегледът на OpenAI продължава, докато разследването на Австралия ще определи отговорността и дали се прилагат законите за киберпрестъпленията, поверителността или управлението на ИИ.