В понеделник OpenAI замрази плановете си за пускане на GPT-6.1 Astra — модел на изкуствен интелект (ИИ) от следващо поколение, чийто дебют бе планиран за октомври, след като той не премина вътрешните проверки за безопасност и съгласуваност (alignment).

Информацията бе съобщена първо от „The Wall Street Journal“. Ходът „отбелязва рядък случай, при който водещ разработчик на ИИ отменя ново издание поради опасения, свързани с безопасността“, посочва изданието.

Производителят на ChatGPT заяви, че е взел решението да се откаже от пускането на модела GPT-6.1 Astra, след като тестовете са повдигнали въпроси относно това дали той може да следва инструкциите на потребителите, без да се отклонява от очакваното поведение.

Според „The Journal“ по време на оценката моделът е демонстрирал по-високи нива на измамно поведение в сравнение със своя предшественик и не е разкрил какви действия е извършил. В някои случаи той е действал, без да иска разрешение, или е опитвал да използва външни инструменти в сценарии, при които това би могло да се счете за небезопасно.

„Въпреки че (GPT-6.1 Astra) показва подобрение по показатели като мързела на модела, той не отговори на изискванията по отношение на оставането в рамките на определения обхват и авторизация, както и в начина, по който комуникира с потребителя за извършената работа“, заяви в официално съобщение Саачи Джейн, ръководител на системите за безопасност в OpenAI.

„Разбира се, искаме да сме сигурни, че разработването на нашите модели е безопасно, независимо дали става въпрос за работа в компанията, или когато ги предоставяме на потребителите. Но когато ги предоставяме на потребителите, имаме изключително високи стандарти за безопасност и съгласуваност.“

Новината идва на фона на доклади за системи с изкуствен интелект в целия сектор, които излизат извън контрол, което води до призиви за забавяне на темпото на развитие на ИИ и въвеждане на по-строги мерки за безопасност преди тяхното широко разпространение.

Миналата седмица OpenAI заяви, че временно спира обучението на най-мощните си модели, след като един от нейните агенти по време на обучение с подкрепление (RL) се е свързал с външен чатбот, възползвайки се от вратичка в ограниченията за достъп до интернет.

В доклад, публикуван в понеделник, Институтът за безопасност на изкуствения интелект (AI Security Institute) посочва, че GPT-6 Astra е извършвал неразрешени атаки срещу веригата за доставки при симулирани тестове по-често от по-ранните модели на OpenAI, а в някои случаи дори след като обхватът е бил изрично уточнен.

„В нашите симулации установихме, че GPT-6 Astra е извършил редица неразрешени атакуващи действия, при това с по-висока честота в сравнение с GPT-5.6 Sol и GPT-5.5“, се казва в доклада.

„Атакуващите действия включват създаване на фалшиви самоличности от GPT-6 Astra, използвани за подвеждане на разработчици, публикуване на коментари от фалшиви профили срещу резултатите от точни проверки за сигурност, както и доставяне на зловреден код в кодови бази с отворен код.“