Сигурността на веригата за доставки на софтуер беше достатъчно трудна задача. След това изкуственият интелект (AI) се присъедини към тръбопровода за разработка (build pipeline).

В продължение на пет години „сигурност на веригата за доставки на софтуер“ означаваше един въпрос: какво има в кода ви? Кои пакети с отворен код, кои версии, кои транзитивни зависимости на три нива дълбочина, които никой не е избрал нарочно?

SolarWinds, Log4Shell и XZ Utils преподадоха един и същ урок: рискът се крие по-малко в кода, който екипът пише, и повече във всичко, което го произвежда. Shai-Hulud, саморазпространяващата се кампания със зловредни пакети, която се разпространи чрез инструментите за разработчици тази година, преподаде следващия урок: да знаете какво има във вашия код все още е необходимо, но вече не е достатъчно.

В рамките на приблизително 20-те месеца от стартирането на Протокола за контекст на модела (Model Context Protocol - MCP), инструментите с изкуствен интелект, моделите и инфраструктурата около тях се превърнаха в носещи елементи от начина, по който софтуерът се създава, внедрява и изпълнява. Кодът се пише от агенти. Пакетите се изтеглят от автономни инструменти, които решават, че са необходими. Промптовете (подканите) се превърнаха в реален входен вход за изграждането на софтуера, което означава, че те са реален начин за неговото компрометиране. Нищо от това не беше предвидено, когато бяха проектирани повечето програми за сигурност.

Изкушаващо е да се третира генерираният от AI код просто като още малко код, да се прекара през същите скенери и да се счита за покрит. Това обаче е погрешно тълкуване на посоката, в която се е преместил рискът.

Въпросът за произхода, който винаги е дефинирал сигурността на веригата за доставки – откъде е дошло това и мога ли да му се доверя – сега се прилага за модела, агента и инструментите, а не само за крайния продукт (артефакт). Асистент за кодиране с AI предлага зависимост и разработчикът я приема, без пакетът изобщо да премине през модела на заплахи на човек. Автономен агент посяга към инструмент през MCP, за да завърши задача, а този инструмент посяга към друг. Подканата (промптът), създадена от атакуващ и поставена на място, където моделът ще я прочете, управлява какво се пише или какво се изтегля.

Валидирането на генерирания от AI код, преди той да бъде потвърден (commit), е минималното изискване. По-трудната задача е управлението на агентите, които пишат кода, и инструментите, които те извикват.

Как изглежда една програма, когато изкуственият интелект е включен в обхвата

Екипите, с които работим, не изпитват недостиг на констатации. Те се удавят в тях. Добавянето на „сканиране и на резултатите от AI“ към вече претоварената опашка прави купчината от сигнали за тревога по-висока, а не програмата по-силна. Две неща се променят, когато AI наистина е в обхвата.

Първо, проследяването на произхода трябва да се разпростре върху всичко, което влиза в тръбопровода за разработка, включително моделите и агентите. Един от подходите е разширяване на проследяването до самия тръбопровод – проследяване на дейността, произхода и промените в конфигурацията от първия commit до изпълнението (runtime), и прилагане на същата строгост към моделите и агентите, както към всяка друга зависимост.

Второ, приоритизирането трябва да се основава на реална възможност за експлоатация, а не на обем. Корелирането на констатациите с контекста по време на изпълнение и с това, което всъщност е достъпно, е разликата между списък с уязвимости и работеща верига от експлойти. Тази разлика е още по-важна, след като един агент може да генерира хиляди редове разумен код преди обяд.

Това е празнината, която Gartner формализира през юни, когато публикува встъпителния си Magic Quadrant за сигурност на веригата за доставки на софтуер – признанието на пазара, че проблемът, който екипите защитаваха без бюджетно перо, сега е нещо, което си струва да се оценява систематично.

На 22 юли изследователите от OX са домакини на уебинар – „Как AI преоформя сигурността на веригата за доставки, каквато я познаваме“ – за да преминат през нови изследвания заедно с лидери в сигурността, извършващи тази дейност отвътре. Ще покрием как интеграцията на AI промени повърхността за атака, констатациите от първия систематичен преглед на MCP сървъри в реални условия и как всъщност изглежда една програма за сигурност на веригата за доставки, когато AI е включен в обхвата, вместо да бъде добавен впоследствие.