CISA, NSA и FBI предупреждават за базирани в Китай AI компании, насочени към щатски AI модели с кампании за дестилация на знания в индустриален мащаб с цел бързо развитие на изкуствен интелект

ВАШИНГТОН – Агенцията за киберсигурност и инфраструктурна сигурност (CISA), в сътрудничество с Националната агенция за сигурност (NSA) и Федералното бюро за разследване (FBI), публикува днес съвместен бюлетин за киберсигурност, съобщаващ за базирани в Китай компании за изкуствен интелект (AI), които атакуват американски AI компании с цел систематично извличане на патентовани модели чрез кампании за дестилация на знания. Дестилацията на знания е техника за машинно обучение, която включва обучение на по-малко способен AI модел с помощта на резултатите от по-голям и по-способен модел. Въпреки че това е легитимен метод за обучение, той може да бъде използван злонамерено за придобиване на възможности от конкуренти за по-малко време и с по-малко разходи, отколкото при законното им разработване. Злонамерените кампании, описани в този бюлетин, съставляват ядрото на стратегията за развитие на AI в Китай.

Вероятно със знанието на китайското правителство, DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun и Z.AI са извлекли милиарди токени чрез милиони обмени/заявки от водещи американски AI модели, включително варианти на Claude, GPT, Gemini и Grok, поне от края на 2024 г. Тактиките за дестилация, използвани от базираните в Китай AI компании, нарушават условията за ползване на американските компании и съкращават времето за научноизследователска и развойна дейност в областта на AI за китайските компании, подкопавайки честната конкуренция.

„CISA се ангажира да насърчава сигурното използване на AI, докато стимулира иновациите, от решаващо значение за глобалната конкурентоспособност на Америка“, заяви ипълняващият длъжността директор на CISA Ник Андерсен. „Силно призоваваме AI компаниите да предприемат незабавни стъпки за защита на своите платформи срещу кампании за дестилация на знания, които заплашват да стопят разликата в постиженията, направени от американските компании.“

Бюлетинът препоръчва на водещите щатски компании да предприемат три незабавни действия:

• Внедряване на цялостно откриване и ограничаване на последиците: Откриване на аномални и злонамерени заявки (prompts), акаунти, мрежи и поведение. Освен това наблюдение на съотношението между абонамент и използване, незабавно максимално използване от нови акаунти и модели на пропускателна способност в корпоративен мащаб.
• Внедряване на целеви промени в отговорите: Фина промяна на отговорите при заподозрени опити за злонамерена дестилация с цел намаляване на ползите за компании, провеждащи кампании за дестилация в индустриални мащаби.
• Създаване на обмен на разузнавателна информация между организациите: Солидаризиране и корелация на активността между доставчиците на модели, облачните платформи и агрегаторите на API за разкриване на разпределени кампании.

Като агенция за киберзащита на страната и национален координатор за сигурността на критичната инфраструктура, Агенцията за киберсигурност и инфраструктурна сигурност ръководи националните усилия за управление, разкриване и намаляване на риска за нашата дигитална и физическа инфраструктура, на която американците разчитат всеки час от всеки ден.