С разпространението на AI инструментите и тяхното дълбоко интегриране в разработката на софтуер по целия свят, ново изследване на компанията за киберсигурност CrowdStrike показва как атакуващите активно се насочват към веригата за доставки на AI, за да откраднат идентификационни данни за достъп, да получат по-дълбок достъп до целевата среда, да извлекат чувствителни данни и дори да унищожат целеви файлове и системи – като същевременно откриват нови начини за заличаване на следите си.

Изследователите откриха червей в реална среда, докато разследваха атаки срещу веригата за доставки на AI софтуер. Адам Майерс, старши вицепрезидент на CrowdStrike по противодействие на противниците, казва, че компанията все още не е приписала дейността на конкретен злонамерен субект, но тя се вписва в по-мащабната еволюция на това как атакуващи като TeamPCP (които CrowdStrike проследява като „Altered Spider“) и севернокорейски групи се насочват към веригата за доставки на AI софтуер.

„Това е една от кампаниите, които сме виждали, показваща, че това е нововъзникващ клас атаки“, казва Майерс пред WIRED. „Тъй като AI агентите за кодиране се превръщат в стандарт за разработка, заплахите за веригата за доставки се развиват, за да експлоатират тези отношения на доверие. За първи път виждаме колко много AI и веригата от инструменти за AI са повлияли на по-широката технологична екосистема.“

Червеят, идентифициран от CrowdStrike, работи на етапи. Първо извършва разузнаване, за да оцени целевата среда. След това търси токени за достъп и други чувствителни данни, като криптографски ключове и идентификационни данни за достъп до сървъри, които може да предаде на атакуващите. Тъй като зловредният софтуер придобива привилегии, той се разархивира допълнително и продължава да събира идентификационни данни, по-специално „npm“ токени, които дават достъп до ключови сървъри за управление на софтуерни пакети и други възможности за разработка като заявки за изтегляне (pull requests).

Колкото по-дълбоко прониква зловредният код в системата, толкова по-чувствителни данни може да заграби. В този момент зловредният софтуер може също така да задейства своята разрушителна способност или това, което Майерс нарича „превключвател на смъртта“, за да унищожи файлове или да блокира легитимния достъп до компрометираната инфраструктура.

Ключовото разкритие обаче е, че голяма част от злонамерената дейност на червея се случва в т.нар. слепи петна, тъй като поведението му в голяма степен имитира легитимни действия. „Това е като игла в купа сено, освен че в случая става дума за игла в купа от игли“, казва Майерс. „Това прилича много на автоматизацията, която организациите използват за създаване на код, така че е много трудно за откриване.“

Майерс добавя също, че в тези тръбопроводи за разработка на AI софтуер е по-трудно да се съберат данните, които скенерите за сигурност и инструментите за анализ традиционно използват за откриване на потенциално подозрителна дейност.

„Има голямо припокриване в телеметрията, тъй като легитимните AI системи за кодиране работят по същия начин като този червей, така че става много трудно да се разграничи от наличната телеметрия какво е легитимно и какво не“, казва Майерс.

За да се скрият още по-коварно пред очите на всички, авторите на червея са включили времеви закъснения, при които различните възможности се изпълняват часове или дори дни след полагането на основите, което прави още по-трудно за защитниците да установят причинно-следствена връзка между определени събития и крайните резултати.

Майерс споделя, че CrowdStrike работи по стратегии за свързване на повечето от тези точки, но подчертава, че с експлозивния растеж на разработката на AI софтуер има спешна нужда всички участници да си сътрудничат по структурни решения.

„Това е ограничена повърхност за откриване, тъй като само малка част от тази дейност действително ще произведе някакъв телеметричен сигнал, който да разгледаме“, казва Майерс, „така че става изключително трудно да се определи кое е легитимно и кое е злонамерено поведение.“