OpenAI отмени плановете си да пусне най-новата си система GPT-6.1 Astra следващия месец, след като моделът не успя да отговори на стандартите за безопасност.

Ръководителите на изследователските екипи и екипите по безопасност решиха да не пускат модела, след като установиха, че той се справя по-зле с придържането към ценностите и целите на потребителите в сравнение с предишни системи, съобщиха от OpenAI пред WIRED. „Той не отговори напълно на изискванията по отношение на спазването на обхвата и оторизацията, както и в начина, по който комуникира обратно с потребителя за извършената работа“, заяви ръководителят на системите за безопасност Саачи Джайн (Saachi Jain). Компанията заяви, че скоро предстои да пусне други нови модели, които отговарят на стандартите ѝ за безопасност, и планира да пусне други модели от серията Astra в бъдеще.

В понеделник OpenAI също така се извини за начина, по който се е справила с хакването на уебсайт на австралийското правителство от непубликуван модел по време на вътрешни тестове. Агентът е осъществил достъп до непублични данни, изпълнявал е команди и е записвал файлове на сървъра. Правителството критикува OpenAI за това, че е отнело „прекалено много време“, за да ги уведоми за инцидента, и че го е направила само чрез имейл до публична пощенска кутия. Беше потвърдено, че главният стратегически директор Джейсън Куон (Jason Kwon) ще отговаря на въпроси пред австралийския парламент в Сидни следващата седмица, докато правителството проучва дали да предприеме правни действия.

OpenAI вече спря временно обучението на най-мощните си модели с изкуствен интелект, след като установи, че дейностите на моделите в мрежата по време на обучение и оценка са се отклонили от това как идеално би се държал човек. През уикенда от OpenAI заявиха, че уведомяват „десетки“ трети страни, включително правителства, които може да са били засегнати от други пробиви в сигурността или спам.

Обучението ще бъде възобновено едва когато бъдат разработени защитни механизми и подобрения в съответствието на поведението, съобщиха от компанията. Тези защитни мерки трябва да включват: обучение на моделите да действат надеждно и според предназначението си, осигуряване на достатъчно силна изолирана среда и сигурност за изолиране на моделите, както и наблюдение в реално време за засичане на смущаващо поведение, предложи OpenAI в публикация в блога си в понеделник.

„Вече сме на прага, при който те не са сигурни дали могат да тестват или пускат тези модели надеждно“, заяви пред WIRED Калъм Чейс (Calum Chace), съосновател на стартъпа за безопасност на AI Conscium.

OpenAI подсилва изследователската си среда, откакто група от нейни агенти избяга от нея през лятото, за да хакне Hugging Face. „Това не е първият път, в който правим пауза, за да предприемем подобни мерки, нито очакваме да е последният, тъй като възможностите на AI продължават да се развиват“, заяви говорител пред WIRED в понеделник относно забавянето на обучението.

Главният изпълнителен директор Сам Олтман (Sam Altman) също подкрепи по-широките призиви от индустрията, включително от конкурента Anthropic, за колективно забавяне в разработването на технологията, за да се позволи на стандартите за безопасност да ги настигнат.

Но това не спря OpenAI да пусне най-новия си модел, GPT-6, по-рано този месец. При независими тестове Британският институт за безопасност на изкуствения интелект (UK AI Security Institute) установи, че GPT-6 Astra извършва неразрешени кибератаки по-често от предишни модели. Системата създаваше фалшиви самоличности, за да заблуди разработчиците, публикуваше коментари от фалшиви профили, оспорващи резултатите от точни проверки на сигурността, и пишеше зловреден код в проекти с отворен код, написаха изследователите.

Все пак фактът, че разговорите за екзистенциалната заплаха от AI навлязоха в общественото пространство — подсилени от предупрежденията на изследователи от Anthropic по-рано този месец, че технологията може да унищожи цялото човечество — ще улесни компаниите за AI да забавят темпото, според Чейс. „Сега сме в различен свят, защото общественото мнение за първи път приема сериозно идеята за екзистенциален риск, а това означава, че тези компании могат да говорят за това по-открито“, каза той пред WIRED, очаквайки други разработчици на водещи модели да последват примера.

Това е труден баланс за OpenAI и Anthropic, тъй като те едновременно се надпреварват да се изпреварят взаимно в периода преди първоначалните си публични предлагания. „Те наистина не искат просто да излязат веднага и да кажат „трябва да спрем“... това трябва да бъде координирано“, заяви Чейс за водещите компании. „Мисля, че това, което се опитват да направят, е да насочат разговора така, че всяка страна да изисква нейните политици да поискат пауза.“