Anthropic обяви, че нейните вътрешни AI модели, подложени на „оценки за висок риск и киберсигурност“, вече нямат достъп до интернет след инциденти, засегнали уебсайтове на правителството на САЩ на федерално, щатско и местно ниво.

Случаите, довели до това решение, включват AI модели, които са експлоатирали уязвимости в уебсайтове, изпращали са формуляри, заобикаляли са ограничения за данни и защитни механизми.

Компанията обаче заяви, че нежеланото поведение е имало минимално реално въздействие и го оценява като по-малко сериозно от предишни докладвани инциденти. Компанията за изкуствен интелект уведоми Белия дом за неоторизираната дейност:

  • Експлоатиране на сървъри за изпълнение на задачи. Когато инструмент за научен анализ на университет отказал да работи, Claude Mythos Preview открил скрипт, който излагал сървърни файлове, извлякъл изходния му код, идентифицирал инжекционна уязвимост и я използвал, за да стартира заявеното изчисление на сървъра на университета.
  • Неволно подаване на реални формуляри. Моделите понякога замествали неработещи тестови копия с истински правителствени формуляри или изпращали формуляри въпреки инструкциите да спрат преди изпращането. В друг случай Claude Haiku 4.5 измислил и подал сигнал за убийство до полицейското управление във Филаделфия. Подаденият сигнал бил маркиран като спам и препратен за разследване.
  • Заобикаляне на ограничения за данни. Claude Mythos 5 получил токени за достъп от конфигурации на уебсайтове или публични табла за управление и ги използвал за директни заявки към правителствени данни, заобикаляйки стандартния маршрут за достъп или изискванията за плащане. Anthropic описва данните като публично достъпни срещу заплащане.
  • Заобикаляне на лимитите на инструментите за извличане. Модели, включително Claude Opus 5 и Mythos 5, използвали услуги за съкращаване на URL адреси, за да заобиколят ограниченията за дължина на URL адреса, предназначени да ограничат нежелани действия като SQL инжекционни атаки.

Anthropic предполага, че агентите може да са били мотивирани от прекомерно щедри награди по време на обучение с подкрепа (reinforcement learning), което може да ги е насърчило да търсят неоторизирани заобиколни решения, вместо да спрат, когато дадена задача е блокирана или невъзможна.

Поради тази причина, докато мерките за сигурност не бъдат счетени за надеждни отново, Anthropic ще прекъсне активния интернет достъп за всички вътрешни оценки на AI модели и ще премести всички тестове в офлайн среди.

„Въпреки че въздействието от тези прояви беше минимално и вече бяхме спрели интернет достъпа в реално време за някои тестове с висок риск и за киберсигурност, сега решихме да разширим това ограничение до всички наши вътрешни оценки, докато не потвърдим, че мерките ни за сигурност и мониторинг надеждно прихващат подобно поведение“, обяснява Anthropic.

Предишни инциденти

В края на юли Anthropic разкри много по-сериозен инцидент, при който агенти, базирани на Claude Mythos, създадоха зловреден Python пакет, съдържащ крадец на идентификационни данни, и го качиха в Python Package Index (PyPI), откъдето 15 системи го изтеглиха и стартираха.

Claude е използвал пакета, за да завърши предизвикателство от типа „хвани флага“ (capture-the-flag), но вместо да го публикува в симулирана среда, той е излязъл извън нея и е достигнал до реалната платформа PyPI.

През август AISI разкри, че Mythos 5 се е опитал да извърши атака срещу веригата за доставки, като е подал зловреден код към проект с отворен код и е оказал натиск върху поддържащия проекта да го одобри, използвайки фалшиви самоличности.

През септември Anthropic разкри, че Opus 4.6 е получил администраторски достъп до система на трета страна по време на оценка през януари 2026 г. и е прочел личната информация на едно лице.