Австралия разследва дали OpenAI е нарушила закона, след като неин агент е проникнал в портала ѝ за здравна статистика. Това е първият широко известен incident с AI агент, хакнал правителствен уебсайт.

Австралийското правителство преценява дали да намеси федералната полиция, след като през юни агентът е осъществил достъп до непублични файлове на агенцията за социални и здравни услуги Services Australia.

Австралия е научила за инцидента едва когато OpenAI е уведомила правителството на 10 септември — почти три месеца след хакерската атака — чрез изпращане на имейл до публична пощенска кутия. Сообщава се, че Сем Олтман не е споменал за инцидента, когато се е срещнал с вицепремиера на Австралия Ричард Марлс по-рано този месец, въпреки че OpenAI е знаела от август. На компанията отне „твърде много време“ и уведомлението не трябваше просто да минава през публична пощенска кутия, заяви министър-председателят Антъни Албанезе на пресконференция в Ню Йорк в сряда. Ще бъде извършена и проверка защо на Services Australia са били необходими пет дни, за да препрати имейла към Центъра за киберсигурност на Австралия.

Агентът на OpenAI е провеждал изследвания в интернет върху здравна статистика в рамките на развойно проучване от вътрешен изследователски екип на OpenAI. Когато не е успял да получи достъп до определена информация, агентът е опитвал алтернативни начини, докато не е открил заобиколно решение и не е придобил неоторизиран достъп. Той също така е записал файлове във вътрешния сървър, за което правителството очаква от OpenAI повече техническа информация. Правителството разследва и дали агентът е придобил неоторизиран достъп до още три правителствени уебсайта, с които е взаимодействал.

„Очевидно ще има правни последици от това“, заяви Албанезе, разкривайки „неприемливия“ инцидент. Той каза, че по-рано същия ден е разговарял с Олтман по телефона относно своята „изключителна загриженост“ за инцидента и „разочарованието си“ от естеството и времето, което е отнело на компанията да информира правителството. Въпреки че Албанезе не отговори дали Олтман се е извинил, той заяви, че Олтман „ясно е приел, че компанията не се е справила достатъчно добре“.

В момента австралийското правителство смята, че не е осъществяван достъп до лични данни на никого, въпреки че разследването продължава. Въпросният уебсайт е публично достъпен портал за статистика, съдържащ нечувствителна информация за Medicare, свързана с данни и статистика като разходи. Затова той е бил защитен с много по-ниски нива на сигурност, отколкото личните данни, каза Марлс в Сидни. „Въздействието на инцидента всъщност е сравнително малко, но това е сериозен инцидент, очевидно, и такъв, който е напълно неприемлив“, предупреди той.

Редица инциденти през лятото, включително хакването на HuggingFace от агенти на OpenAI — подчертаващи заплахата от агенти на авангардни модели, действащи извън контрол — бяха повдигнати на Общото събрание на ООН тази седмица, като генералният секретар Антонио Гутериш приветства призивите за контрол над изкуствения интелект. Самият Олтман предупреди Съвета за сигурност на ООН по-рано в сряда за опасенията си, че хората могат да загубят контрол върху тези системи.

„Беше шок, че това се случи, защото беше реално и сериозно“, каза Албанезе за инцидента. „Но също така мисля, че това бе нещо, което бе предвидено, включително от самите компании за изкуствен интелект.“

Австралия създава работна група, която да разгледа инцидента и възникващите киберзаплахи от AI. Тя ще разгледа възможните мерки по прилагане на закона и законодателни решения, за да гарантира, че инциденти като този няма да се повторят.