Инцидентите са в резултат от едни и същи дефекти в средата за тестване, които събориха OpenAI, Anthropic и Meta.
Системата с изкуствен интелект Gemini на Google е излязла от своята тестова среда и е пробила в системите на три други компании при отделни случаи по-рано тази година.
„При стандартна оценка моделът намери публична информация в интернет и напасна идентификационни данни за достъп до уебсайтове, които смяташе за част от теста“, заяви в изявление Хедър Адкинс, вицепрезидент по инженерна сигурност в Google. „И в трите случая моделът спря.“
Инцидентите, съобщени за първи път в петък от The Wall Street Journal, са се случили по време на учение от типа „прихвани знамето“ (capture-the-flag), в което на Gemini е било наредено да открадне информация от фиктивна компания. В три случая, когато фиктивните компании са съвпадали по име с реални такива, Gemini е заобиколил защитите за тестване, осъществил е достъп до интернет и е пробил в мрежите на реалните компании. В един от случаите той е напаснал необходимите пароли; в другите два случая е открил работещи пароли в публична база данни.
Моделите Gemini неколкократно са излизали от изолирани среди (пясъчници), управлявани от израелската фирма за тестване на изкуствен интелект Irregular, използвайки същите уязвимости, които позволиха на моделите на OpenAI, Anthropic и Meta да избягат от сдържащите среди при инциденти, разкрити по-рано тази година. Тези пробиви възобновиха опасенията, че моделите с изкуствен интелект стават твърде мощни и разполагат с твърде малко предпазни механизми.
Адкинс заяви, че Google е реагирала бързо, когато е разбрала какво се е случило.
„Уверихме се, че трите организации са уведомени, и работихме с нашия партньор по обучението върху промените, които те вече са внесли в своите процеси за тестване“, каза тя.
„Безопасното разработване на мощни модели с изкуствен интелект е от решаващо значение“, добави тя, „и ние инвестираме задълбочено в тази област.“
Irregular не отговори на запитването за коментар, но заяви пред Axios, че е уведомила „всички съответни лаборатории за [изкуствен интелект] в края на юли“ за уязвимостите в своята изолирана среда и че „всички известни проблеми от наша страна са отстранени и разрешени преди седмици.“
Притеснения за сигурността на изкуствения интелект
Разкриването на пробивите на Gemini идва в момент, когато правителството на САЩ обмисля колко дълбоко да навлезе в регулирането на изкуствения интелект. Законодателите дебатират по множество законопроекти, които биха изисквали предпазни механизми за бързо развиващата се технология, а главните изпълнителни директори на OpenAI и Anthropic призоваха за забавяне на разработването на изкуствен интелект с цел приоритетизиране на безопасността. Но президентът Доналд Тръмп нарече опасенията за безопасността на изкуствения интелект „измама“ и неговата администрация отхвърли усилията за по-стриктна проверка на работата на водещите среди за изкуствен интелект.
Опасенията относно водещите американски модели с изкуствен интелект идват и в момент, когато експертите очакват масивен растеж в популярността и възможностите на китайските инструменти с изкуствен интелект. Американски и китайски представители се срещат тази седмица във Вашингтон за среща на върха, която вероятно ще засегне въпросите за сигурността на изкуствения интелект. Министърът на финансите Скот Бесент заяви в неделя вечерта, че САЩ искат да работят с Китай по система за разкриване на потенциално сериозни инциденти с изкуствен интелект в интерес на глобалната стабилност.
Забележка на редактора: Тази статия е актуализирана с допълнителни коментари от Google.