OpenAI съобщи, че е спряла обучението на най-мощните си модели с изкуствен интелект, тъй като инцидентите, при които нейни агенти пробиват контролите за сигурност на уебсайтове или публикуват съдържание в уебсайтове на трети страни, продължават да се увеличават. В петък OpenAI заяви, че е уведомила „десетки“ организации, включително правителства, университети и публични агенции, които може да са засегнати от дейността на нейните модели в интернет по време на обучение и оценка.
Компанията е идентифицирала случаи, при които агенти на OpenAI пробиват проверките за сигурност и нарушават достъпността — или оказват друго негативно въздействие — на уебсайтове и онлайн услуги. Говорител на компанията потвърди пред WIRED, че обучението ще бъде възобновено едва когато са сигурни, че могат да предотвратят подобни действия от страна на моделите.
Въпреки че OpenAI и преди се опитваше да прекъсне директния достъп на агентите, след като рояк от тях избяга от тяхната изолирана среда и използва достъпа си до интернет, за да хакне стартъпа Hugging Face, моделите продължават да намират индиректни заобиколни начини. „Не бяхме толкова бързи, колкото ни се искаше“, написа главният изпълнителен директор Sam Altman в X в петък относно „обширния“ преглед на компанията върху използването на интернет от нейните агенти по време на обучение и оценка.
Това се случва, след като правителството на Австралия разкри в сряда, че през юни агенти на OpenAI са хакнали уебсайт на здравна служба, за да получат непублични данни и да запишат файлове на вътрешния сървър. Правителството на Австралия заяви, че разследва дали OpenAI е нарушила закона и че на компанията ѝ е отнело „прекалено много време“, за да го информира за инцидента.
OpenAI е притеснена и от това, че моделите публикуват информация в сайтове на трети страни — явление, което компанията нарича „агентски спам“. Това може да включва промяна на информация в публични уики страници или комуникация през споделени форуми. Най-притеснителното е, че са открити 53 инцидента, при които AI моделите са публикували изображения, въведени от потребители на ChatGPT, в други сайтове за хостинг на изображения.
Призивите за забавяне на обучението на най-способните AI модели, докато защитните механизми наваксат, бяха тема на по-широки дебати през последните седмици — включително от съперници като Anthropic и Elon Musk — след като притесненията относно заплахите от технологията за човечеството достигнаха връхната си точка. „Това не е първият път, в който правим пауза, за да предприемем подобни мерки, нито очакваме да е последният, тъй като възможностите на изкуствения интелект продължават да се развиват“, заяви говорител на OpenAI.
Въпреки това президентът на САЩ Donald Trump неколкократно омаловажи необходимостта от общо забавяне, опасявайки се, че това може да отстъпи лидерството на страната в технологията на Китай, с който е договорено да се създаде диалог относно рисковете и ползите от изкуствения интелект. В интервю за Fox News преди вечерята си с главния изпълнителен директор на Anthropic Dario Amodei в неделя вечер той отново отхвърли опасенията относно излизането на AI агентите извън контрол: „Не се притеснявам за това“, каза той.