Платформата за съхранение на изкуствен интелект Hugging Face разкри, че атакуващи са получили достъп до вътрешни масиви от данни и идентификационни данни, след като са компрометирали производствената ѝ инфраструктура с помощта на система от автономни ИИ агенти.

Hugging Face е платформа с отворен код за ИИ и машинно обучение, която предоставя достъп до над 45 000 модела от водещи доставчици на ИИ и се използва от повече от 50 000 организации.

Компанията все още разследва дали са засегнати данни на партньори или клиенти и заяви, че ще се свърже директно с всички засегнати страни. Към днешна дата Hugging Face съобщава, че не е открила доказателства за подмяна на публично достъпни модели, масиви от данни или Spaces, както и че веригата за доставки на софтуер е била проверена и е чиста.

Проникването е започнало в тръбопровода за обработка на данни на Hugging Face, като атакуващите са използвали злонамерен масив от данни, за да експлоатират две уязвимости за изпълнение на код и да стартират код върху обработващ възел. Това им е позволило да откраднат идентификационни данни за облака и клъстера и да се придвижат странично през няколко вътрешни клъстера.

„Кампанията е била проведена от рамка за автономни агенти (изглежда изградена върху ИИ среда за изследване на сигурността – използваният голям езиков модел все още не е известен), изпълняваща много хиляди индивидуални действия в рояк от краткотрайни изолирани среди, със самомигриращо управление и контрол, разположени в публични услуги“, заяви Hugging Face в разкритието за инцидента, публикувано в четвъртък. „Това съвпада със сценария за 'атакуващ агент', който индустрията прогнозираше.“

В отговор на пробива Hugging Face е затворила уязвимите пътища за изпълнение на код (инжектиране на шаблон в конфигурацията на масив от данни и отдалечен заредител на масиви от данни), отстранила е атакуващия, преизградила е компрометираните възли и е прекратила и заменила всички засегнати идентификационни данни.

Освен това компанията е внедрила подобрени системи за откриване на злонамерена дейност, докладвала е за инцидента на правоприлагащите органи и в момента работи с външни експерти по компютърна криминалистика, за да оцени въздействието на пробива.

„Не знаем кой модел е захранвал агентите на атакуващия – дали хостван модел с премахнати ограничения (jailbroken) или модел с отворени тегла без ограничения; и в двата случая атакуващият не е бил обвързан с никакви правила за ползване, докато нашата собствена криминалистична работа беше блокирана от защитните прегради на хостваните модели, които се опитахме да използваме първо“, добавиха от Hugging Face.

„Практическият урок за защитниците: притежавайте способен модел, който можете да стартирате на собствена инфраструктура, тестван и готов преди инцидент, както за да избегнете блокиране от защитни ограничения, така и за да предотвратите изтичането на данни и идентификационни данни на атакуващия извън вашата среда.“

Hugging Face посъветва потребителите да подменят своите токени за достъп и да прегледат скорошната активност в акаунтите си за признаци на подозрително поведение, като добави, че ще продължи да споделя констатации относно защитата срещу атаки, управлявани от изкуствен интелект.

Въпреки че това е първият инцидент със сигурността на платформата, който се свързва с ИИ агент, това не е първият пробив, разкрит от Hugging Face през последните години.

Преди две години компанията също така анулира тайните за удостоверяване на някои членове и ги посъветва да преминат към детайлно разграничени токени за достъп, след като хакери компрометираха нейната платформа Spaces.

Злонамерени субекти също така злоупотребяват с платформата през последните години, за да разпространяват злонамерени модели за ИИ/машинно обучение и зловреден софтуер за кражба на информация (infostealer), както и хиляди варианти на зловреден софтуер за Android.

  • Тествайте всеки слой, преди атакуващите да го направят: Екипите за сигурност регистрират 54% от успешните атаки и сигнализират за едва 14%. Останалите се движат в средата ви незабелязано. Документът на Picus показва как симулацията на пробиви и атаки тества вашите SIEM и EDR правила, така че заплахите да не се изплъзват от откриване.
  • Над 20 000 акаунта в Instagram са откраднати при хакерска атака срещу поддръжката на Meta AI
  • Lidl разкри пробив в онлайн магазина си след хакване на доставчик на услуги
  • OpenAI временно облекчава ограниченията за използване на GPT-5.6 Sol
  • Claude Fable 5 остава безплатен за платени потребители до 19 юли, докато Anthropic купува повече време
  • Полицията подозира, че нидерландски хакери са участвали в пробива на Odido