Передовете модели на изкуствен интелект (Frontier AI) могат да бъдат използвани за експлоатиране на уязвимости в програмируеми логически контролери (PLC). Това са критични устройства, които наскоро бяха обект на хакерска кампания срещу водоснабдителни дружества, енергийни компании и промишлени предприятия в САЩ, се посочва в доклад на Forescout Research - Vedere Labs.
Изследователите са използвали Claude за пренасяне на уязвимост за отдалечено изпълнение на код (RCE) от един модел PLC на WAGO Corp. към друго устройство от същата серия. Уязвимостта се следи под идентификатор CVE-2021-31886 и представлява препълване на буфера преди автентификация в Nucleus FTP сървъра.
Симулираната атака, извършена в изолирана среда, показва, че изкуственият интелект може да се използва за сваляне на прага на сложност за даден атакуващ. Въпреки това изследователите отбелязват, че все още съществуват значителни пречки, преди подобна атака да може да бъде възпроизведена без човешко съдействие.
„Изкуственият интелект помогна да се потвърди съществуването на уязвимостта в другия модел PLC и да се изгради експлойт за нея“, заявява Даниел дос Сантос, вицепрезидент по изследванията във Vedere Labs. „AI не успя да създаде експлойта напълно автономно, тъй като се съобразяваше с помощта на изследователя относно това какво и как да експлоатира.“
Преди това Forescout разработи работещ RCE експлойт за WAGO 750-852. В настоящия тест изследователите са се опитали да пренесат експлойта към подобен модел – WAGO 750-831.
Първоначално е използван Claude Sonnet 4.6, но опитът среща затруднения, включително неуспех при проследяването на уязвимата функция в PLC, което води до невалиден експлойт. В крайна сметка Claude успява да предизвика срив в 750-831, но среща затруднения с написването на работещ злонамерен код за отдалечено изпълнение.
При преминаване към Claude Opus 4.6 изследователите успяват да установят защо шелкодът не се запазва достатъчно дълго, за да се изпълни. Общо са били необходими осем часа за генериране на работещ код, като изследователите са помагали за преодоляване на редица грешни следи и безизходни ситуации.
След като Claude решава проблемите със запазването на буфера, той успява да създаде два функционални зловредни кода (RCE payloads) за 12 минути. Въпреки този успех, при опит да подобри експлойта, Claude поврежда функционалността (bricking) на контролера.
Докладът се появява само седмици след като киберпрестъпници, свързвани с Иран, атакуваха водоснабдителни и канализационни дружества в 12 американски щата. Властите съобщиха, че авторите на заплахата са успели да променят пароли и временно да лишат операторите от възможност да наблюдават системите си, което е наложило краткотрайно спиране на водоподаването в някои региони.
В отговор Белият дом стартира инициативата Project Watershed 250 – програма, предназначена да помогне на водоснабдителните дружества да защитят своите операционни технологии (OT среда) с помощта на експерти по сигурност от частния сектор.