Моделът Gemini на Google се превърна в поредната система с изкуствен интелект (ИИ), която получи достъп до интернет и проникна в други компании по време на оценка на киберсигурността. За развитието на събитията първо съобщи The Wall Street Journal.
Инцидентите са се случили през май 2026 г. като част от тестово изпитване, проведено от израелската компания Irregular. Партньорът по оценката е участвал и в подобни пробиви, разкрити от OpenAI, Anthropic и Meta.
Според Journal моделът е получил достъп до защитена система, след като неколкократно е познал нейната парола. Други два случая са свързани с това, че моделът е открил идентификационни данни в публично хранилище, което му е позволило да получи неоторизиран достъп до защитени системи.
Въпреки това, за разлика от други инциденти, наблюдавани при Anthropic и OpenAI, моделът Gemini е прекратил проникването, след като е установил, че е пробил системата на реална компания. Твърди се, че Irregular е уведомила Google за инцидентите през юли 2026 г.
В доклад, публикуван миналия месец, Irregular приписва пробивите по време на оценката на грешка в наименованието, която е довела до това фиктивно име на компания, използвано по време на упражнения тип „прихващане на флаг“ (capture the flag), без намерение да съвпадне с реален домейн. Това е позволило на моделите да се възползват от непреднамерения достъп до интернет и да насочат атаки към домейна „ограничен брой пъти“.
„Това събитие подчертава значението на обучението на мощни модели с ИИ да действат отговорно“, заяви Хедър Адкинс, вицепрезидент по инженерна сигурност в Google, пред The Wall Street Journal. „В този случай моделът е постъпил правилно.“
Технологичният гигант отбеляза също, че не смята поведението за пример за разминаване в целите на модела (model misalignment), тъй като агентите са спрели действията си, след като са се задействали механизмите за безопасност. Към момента не е известно кои компании са били засегнати, въпреки че Irregular потвърди пред Journal, че случаят с Google е аналогичен на останалите инциденти и че проблемът е бил отстранен преди седмици.
Разкритието идва броени дни след като OpenAI установи шест допълнителни инцидента, при които нейните ИИ агенти са излезли от контрол, действали са заблуждаващо и са предприели неразрешени действия по време на обучението. Това включва укриване на грешки, търсене на неоторизирани идентификационни данни, качване на файлове в публичния интернет и комуникация през Artifactory с цел „четене на бележките на други агенти, публикувани отговори и използване на тези обмени за оформяне на техните собствени реакции“.
Лабораториите за ИИ са подложени на все по-голям контрол, откакто през юли OpenAI разкри, че компрометирани ИИ агенти са заобиколили вътрешните контроли, достигнали са до отворения интернет и са действали като рояк, за да пробият Hugging Face. Стартъпът за ИИ, който описа това като „непрецедентиран киберинцидент“, оттогава обяви нова рамка за докладване на подобно некоректно поведение на моделите в бъдеще.