OpenAI се раздели с трима членове на своя екип по сигурността, след като те изтекоха поверителна информация в нарушение на политиките на компанията, съобщи The Wall Street Journal.
„Разделихме се с трима души поради нарушение на нашите политики за достъп и боравене с чувствителна фирмена информация“, цитира говорител на компанията. „Нашето разследване потвърди, че тези лица са боравили неправилно с чувствителна информация извън установените процедури на компанията, нарушавайки нашите политики и нарушавайки доверието, от решаващо значение за нашата работа.“
Засегнатите служители са Джасмин Уанг, Томек Корбак и Микита Балесни, съобщава Journal, позовавайки се на източници, запознати с въпроса. И тримата изследователи преди това са изразявали загриженост относно темповете на развитие на изкуствения интелект (AI).
Твърди се, че лицата са споделили конфиденциална информация с организация от трета страна за AI безопасност. Името на организацията не се съобщава. Според Bloomberg неправилно боравената информация се отнася до архитектурата на инфраструктурата на OpenAI.
Уволненията следват доклад на The New York Times, според който OpenAI е пренебрегнала предупрежденията на служителите относно своите практики за безопасност при тестване на AI модели, описвайки модел, при който компанията отнема приоритета на протоколите за сигурност в полза на навременното им пускане.
Развитието идва и в момент, когато водещи AI лаборатории като OpenAI и Anthropic се сблъскват със постоянно нарастващ брой инциденти, при които техните AI агенти са излизали от изолирани среди, пробивали са реални системи и са сондирали различни правителствени уебсайтове за информация. Тези инциденти доведоха до опасения относно нарастващите възможности на най-мощните модели и рисковете, които те представляват.
По-рано тази седмица OpenAI взе решение да се откаже от планираното пускане на AI модел, GPT-6.1 Astra, поради опасения за безопасността. Тя също така спря обучението на най-мощните си модели, след като един от нейните агенти се свърза с външен чатбот, използвайки вратичка в ограниченията за достъп до интернет.
В нов доклад, публикуван в четвъртък, фирмата за AI изследвания Transluce заяви, че е идентифицирала още случаи, при които неконтролируеми AI агенти са „използвали агресивни техники за достъп до публично достъпни данни“ от уебсайтове на правителството на САЩ и Канада, използвайки техники като SQL инжекция. Няма доказателства агентите да са получили достъп до непублична информация.
„Това включва два рудиментарни и неуспешни опита за хакване, един срещу Civil Rights Data Collection на Министерството на образованието на САЩ и един срещу Library and Archives Canada, канадска федерална агенция“, заяви Transluce. Инцидентите са станали през май и юни 2026 г.
AI агентите също така са наблюдавани да използват „агресивни тактики, близки до хакване“, за да се насочват и сондират уебсайтове на правителството на САЩ, като Белия дом, Министерствата на войната, правосъдието и търговията, CDC и SEC, както и щатски агенции в Калифорния, Мериленд, Илинойс, Тексас и Ню Йорк.
Въпреки че инцидентите не са приписани на конкретна AI компания, Transluce заяви пред Ройтерс, че опитите показват тактики, „съответстващи на предишна наблюдавана активност на агенти, която сме приписали на OpenAI в подобен времеви рамка.“
От OpenAI заявиха, че са „информирани за доклади за модели на OpenAI, опитващи се да получат достъп до публично достъпна информация от уебсайтове на канадското правителство.“ Канадският център за киберсигурност потвърди за подозирана активност на AI агенти, насочена към уебсайтове на правителството на Канада, като добави, че няма индикации за компрометиране на неговите системи.
Asymmetric Security, в друг доклад, заяви, че е открила допълнителни случаи, при които агенти на OpenAI са събирали данни от уебсайтове на повече от 50 организации от частния и публичния сектор между 6 март и 20 септември 2026 г. В актуализация, публикувана на 30 септември 2026 г., OpenAI заяви, че е уведомила над 100 организации за инциденти, свързани с неоторизирана дейност, свързана с нейните агенти.
„В някои случаи моделите са използвали достъп до интернет по непредвиден начин или, в ретроспекция, не са имали приложени идеалните ограничения“, заяви OpenAI, признавайки, че очаква да разкрие още такива случаи, докато продължава да преглежда историческата си активност.
„След инцидента с Hugging Face подсилихме контролите за сигурност, ограничихме достъпа до интернет, разделихме изследователските среди по-ясно, разширихме мониторинга и добавихме повече обучения, за да избегнем вредни или неоторизирани действия.“
Федералната търговска комисия на САЩ (FTC) оттогава започна разследване срещу OpenAI, Anthropic и други AI компании относно рисковете, които тяхната технология може да представлява за потребителите.