Anthropic предупреди, че киберпрестъпници и подкрепяни от държави хакери използват нейните модели Claude за кибератаки, проектиране на оръжия, пропаганда и масово наблюдение в периода между декември 2025 г. и август 2026 г.

Авторите на заплахи, които компанията за изкуствен интелект (AI) определя като Generative Threat Groups (GTG), включват държавно субсидирани групи, финансово мотивирани престъпници, продавачи на търговски шпионски софтуер, държавни пропагандни институции и политически мотивирани лица.

„Уменията в областта на киберсигурността на AI моделите означават, че изкуственият интелект е премахнал пропастта в ресурсите и инструментите, която преди разделяше добре обезпечените държавни операции от индивидуалните оператори“, заявяват от Anthropic. „Използването на AI надхвърли простичките въпроси и отговори с чатбот и по-скоро включваше използването на рамки от множество агенти (multi-agent frameworks), извършващи разузнаване, експлоатация и извличане на данни.“

Сред забележителните случаи, подчертани от Anthropic, е разработването на управляван от AI работен процес от страна на подкрепян от руската държава злонамерен субект, наречен GTG-20006, който споделя тактически и оперативни съвпадения с руска APT (advanced persistent threat) група, проследявана като Midnight Blizzard (известна още като APT29 и Cozy Bear). Някои от останалите киберкампании с използване на AI, откроени от Anthropic в нейния доклад от 154 страници, включват:

  • GTG-50014 (известен още като MeowSHA, frkoo и blazespider) — френскоезичен оператор и предполагаем партньор на колектива ShinyHunters, който е управлявал разпределен пайплайн за събиране на компрометирани данни в мрежа от 10 AWS EC2 работни инстанции. Те са изтеглили масово 1,8 милиона уникални Android APK файла от множество източници на магазини за приложения, сканирали са ги за твърдо кодирани тайни (secrets) с помощта на TruffleHog и са изпращали потвърдените констатации в Telegram група.
  • Друг партньор на ShinyHunters, специализиран в кражба през веригата на доставки (supply chain) чрез компрометиране на доставчици на софтуер като услуга (SaaS), с цел кражба на данни на техни клиенти по веригата, ускоряване на разузнаването и улесняване на извличането на данни.
  • GTG-10007 — китайскоезичен оператор, най-вероятно базиран в провинция Хунан, част от членовете на който са идентифицирани като студенти в китайски университет. Те са използвали Claude за извършване на опити за проникване в производствени системи, разузнаване на чуждестранни правителствени мрежи в Близкия изток, Европа и Югоизточна Азия, научноизследователска дейност за уязвимости и разработване на експлойти срещу основни продукти за сигурност на крайни точки (endpoint-security), както и за създаване на платформа за събиране на разузнавателна информация за масово извличане на материали с отворен код, съобразени с приоритетите на Пекин. Атакуващият е насочил действията си към около 50 организации в секторите на образованието, търговията на дребно, енергетиката, технологиите, здравеопазването, финансите, производството и държавното управление в световен мащаб. Групата също така е поддържала автономна програма за изследване на уязвимости с цел създаване на работещи експлойти за неизвестни досега уязвимости (zero-day) в мрежови устройства и устройства за сигурност.
  • GTG-50021 — руско- и украинскоезична група, която е управлявала измамническа операция за препродажба на AI, предлагаща евтин достъп до Claude. Трафикът на клиентите обаче е бил пренасочван незабелязано през прокси към друг AI модел, докато незаконната схема е инсталирала инструмент за събиране на идентификационни данни, за да източи данните за достъп до профилите им в Anthropic и да ги продаде на други препродавачи на проксита за злонамерена употреба.
  • GTG-50020 — рускоезичен, финансово мотивиран субект, който исторически е атакувал платформи за резервации на хотели и финансови технологии, но впоследствие се е пренасочил към веригата за доставки на AI чрез кражба на API ключове от доставчици на модели и неуспешни опити за получаване на достъп до непредоставени все още за обществено ползване AI модели. Очаква се атакуващият да е взел под прицел около 30 AI доставчици в рамките на четиридневен прозорец, използвайки подобни техники.
  • GTG-50029 — самостоятелен френскоезичен оператор, използвал Claude за атакуване на европейски политически партии, медии, аналитични центрове (think-tanks) и SaaS доставчиците, използвани от тези организации. Това е включвало експлоатиране на недокументирана досега уязвимост от тип race condition при повторно инсталиране на WordPress, която е дала възможност за създаване на фалшив администраторски профил без валидни идентификационни данни, както и злоупотреба с разкрита крайна точка за търсене за пробив в платформа за управление на политически кампании и източване на чувствителни данни. Забелязано е също, че атакуващият внедрява уеб шелове (web shells) и C2 рамка за експлоатация на браузъри срещу други цели. Централно място в операцията на киберпрестъпника е заемала специално създадена платформа за доксинг (doxxing), наречена „fafsearch“, която е предлагала възможност за съпоставяне на индивидуални масиви от изтекли данни с източени такива.

„От една страна, участниците използваха Claude под формата на диалог: той действаше като инженерни асистент при създаването на зловреден софтуер, фишинг комплекти и инструменти за наблюдение“, заявяват от Anthropic. „По-нататък в спектъра, авторите на заплахи даваха указания на Claude да изпълнява операции (като стартиране на команди в мрежите на жертвите, събиране на идентификационни данни и извличане на данни), като човек вземаше всяко отделно решение за насочване (GTG-20006).“

„В другия край на спектъра операциите се извършваха автономно, с минимална човешка намеса или надзор: те включваха рамки от множество агенти, извършващи разузнаване, експлоатация и кражба срещу множество жертви паралелно, в продължение на часове или дни (GTG-50014, GTG-50020, GTG-50029).“

Компанията за изкуствен интелект заяви, че също така е идентифицирала и прекратила редица операции за влияние, в които Claude е играел ролята на „помощник-редактор или създател на съдържание“ за бълване на материали и изпълнението им в мащаби, надхвърлящи възможностите на самостоятелните оператори с ограничени ресурси. Въпреки това от Anthropic подчертаха, че нито едно от тези усилия не е постигнало автентична ангажираност и те са били прекъснати, преди изобщо да успеят да изградят аудитория.

Някои от групите кампании за влияние и наблюдение, маркирани от Anthropic на високо ниво, са посочени по-долу —

  • GTG-04001, рускоезичен субект в Банги, който е участвал в операция за манипулиране на чуждестранна информация и съответна намеса в Централноафриканската република с цел подсилване на проруските и антифренските тези.
  • GTG-54002, комерсиална операция тип „влияние като услуга“ (influence-as-a-service), която използва Claude за масово производство и пренаписване на политическо съдържание в около 70 фалшифицирани сайта за новини. Операцията е проследена до LKM Company, базирана във Франция агенция за дигитална реклама.
  • GTG-84005, единичен акаунт, който използва Claude за управление на комерсиална платформа за изборни манипулации, насочена предимно към потребители в Малайзия въз основа на политически и социални фактори, като раса и религия, представяйки се за защитна киберразузнавателна организация и инструмент за противодействие на дезинформацията. Установено е, че дейността има връзки с BBS Bilisim Teknolojileri, базирана в Истанбул технологична компания.
  • GTG-24015, набор от четири акаунта, които използват Claude като „редакционна и новинарска лаборатория“ за разпространението им чрез държавни медии като Sputnik Moldova, RIA Novosti, Sputnik en Español, Sputnik Africa и англоезичната нюзрум редакция на RT.
  • GTG-34001, набор от три акаунта, свързани с иранската държава, които използват Claude за оформяне на общественото мнение, превръщане на официални правителствени разузнавателни бюлетини в адаптирано съдържание и разпространение на съдържанието в платформите на социалните медии.
  • GTG-54006, устойчива, автоматизирана мрежа за дезинформация, която използва Claude за генериране на фалшифицирани новини на бенгалски език в Бангладеш и за популяризиране на партията Авами Лиг в страната. Дейността е свързана с един субект, базиран в област Гаибандха в Бангладеш, чрез набор от 29 акаунта в Claude, които са били ротирани за заобикаляне на ограниченията на платформата и откриването.
  • GTG-84006, разпределена операция за влияние, насочена към иранска аудитория по целия свят с цел да се представя за истински активисти и да участва в политически разговори на живо. Дейността е свързана с Организацията на народните муджахидини на Иран (PMOI/MEK) и Националния съвет за съпротива на Иран (NCRI).
  • GTG-54004, акаунт, използван от един субект за масово производство на кенийско политическо съдържание като част от това, което се подозира, че е местна астротърфинг кампания с проправителствена насоченост.
  • GTG-84002, акаунт, използван от един субект за провеждане на продължителна операция за влияние срещу „Мюсюлмански братя“, конфликта в Судан и механизмите за отчетност на Организацията на обединените нации.
  • GTG-54009, комерсиална платформа за наблюдение, която използва Claude за анализ, класифициране и профилиране на активността в социалните медии на потребители в Иран и региона на Персийския залив. Оценява се, че дейността е извършена от или от името на израелско-сингапурски доставчик на търговско разузнаване, наречен S2T Unlocking Cyberspace.
  • GTG-14010, операция, свързана с китайската държава, която използва Claude за проследяване, профилиране и вербуване на уйгури и уйгурски въоръжени формирования в Сирия. Установено е, че авторът на заплахата използва модела с изкуствен интелект за преобразуване на разговори, извлечени наведнъж от над 100 наблюдавани групи в WhatsApp и десетки канали в Telegram, в структурирани данни на китайски език и „създаване на профили на лица, които биха могли да бъдат уязвими за таргетиране поради финансов стрес, раздяла със семейството и идеологическо разочарование“.
  • GTG-14020, набор от акаунти, вероятнo свързани с разузнавателна операция, съгласувана с китайското правителство, която използва Claude за създаване на досиета на китайски език, насочени към религиозни лидери и фигури от китайската диаспора в Азия, както и за картографиране на религиозни места и инструктиране на модела да приеме „гледната точка на Китай“.
  • GTG-14021, набор от акаунти на базирани в Китай субекти, които използват Claude в подкрепа на наблюдението и транснационалното репресиране, включително подтикване на модела да поеме ролята на разузнавателен аналитик, обслужващ апарата за национална сигурност на Китай.
  • GTG-14022, базирана в Китай операция за „мониторинг на общественото мнение“ и наблюдение на дисиденти, която използва Claude за изготвяне на правителствени брифинги, в които дисиденти, активисти, етнически малцинства, общности от китайската диаспора и чуждестранни медии са посочени като заплахи за политическата стабилност, като същевременно иска от него да играе ролята на „старши аналитик по извънредно обществено мнение, обслужващ правителството на Китайската народна република“.
  • GTG-34007, набор от 16 акаунта, управлявани от два свързани с Иран субекта, асоциирани с паравоенни агенции и агенции за вътрешна сигурност, които използват Claude за изграждане на потребителски интерфейс за това, което изглежда като контролирана от правителството система за управление на случаи на наблюдение, извършване на анализ на социални мрежи върху 155 216 публикации в X и изграждане на възможности за вътрешно наблюдение чрез зловредна добавка за Mozilla Firefox, наречена „al-Najm al-thāqib“, за извличане на потребителски identities от основните платформи за социални мрежи.
  • GTG-50027, един акаунт, който използва Claude за проектиране на национална платформа за масово прихващане и наблюдение, наречена Lakana 360, за държавната разузнавателна служба на Мали с цел наблюдение на около 25 милиона SIM карти на три от националните мобилни оператори в страната и генериране на разузнавателни досиета за всеки телефонен номер. Платформата има отделен слой, който събира записи на повиквания, текстови съобщения и гласови повиквания в мобилните мрежи.
  • GTG-30004, свързан с Иран автор на заплахи, който използва Claude за разработване на автоматизирана услуга за идентифициране и профилиране от открити източници (OSINT), насочена към израелски организации и организации от еврейската диаспора.
  • GTG-30005, свързан с Иран автор на заплахи, който използва Claude за събиране и анализ на публично достъпни данни, за да разработи препоръки за таргетиране срещу военноморските сили на САЩ в региона и да изгради софтуерни компоненти на платформа за вътрешно масово наблюдение, която комбинира автоматично разпознаване на регистрационни номера с прихващане на идентификатори на мобилни устройства.
  • GTG-30006, ирански атакуващ, който използва безплатни акаунти в Claude.ai за разработване на зловреден софтуер, конвейер за доставка и фишинг портал, насочени към граждани в Иран. Това включва фалшива страница за вход в антивирусната програма ESET NOD32, която предава прихванатите идентификационни данни към Telegram, примамка с диалогов прозорец Windows Run в стил ClickFix и страници за доставка с географски ограничения. Атакуващият е използвал Claude и за изграждането на SECOMS64 – модулен имплант за Windows с възможности за запис на натиснатите клавиши (keylogging), прихващане на екранни снимки и извличане на съхранени пароли от Chrome.

На друго място Anthropic заяви, че е неутрализирала опити за злоупотреба с Claude от страна на атакиращи, базирани в северен Йемен, за разработване на управляеми оръжия, две базирани в Китай операции за изготвяне на спецификация на китайски език за система за управление на огъня срещу торпеда и изграждане на софтуер за прицелване за електронна борба, както и базирана в Русия операция за проектиране на пълен стек от автономни рояци от дронове камикадзе с изглед от първо лице (FPV).

„Тъй като моделите с изкуствен интелект стават все по-широко използвани, доставчиците ще продължат да придобиват свързана със заплахите видимост за реалната им употреба, каквато дори правителствата и междуправителствените организации нямат“, заяви компанията. „Надяваме се, че споделянето на тези ранни наблюдения с обществеността ще помогне за информирането на правителствата, индустрията и широката публика относно естеството на тези рискове и защитните механизми, които са необходими за осигуряване на безопасното внедряване на AI модели.“