OpenAI отправи предупреждение, че напредващите модели с изкуствен интелект все по-добре успяват да автоматизират критични фази на реални кибератаки.
Тази технологична промяна позволява на атакуващите да идентифицират и експлоатират дългогодишни слабости в сигурността значително по-бързо в сравнение с традиционните ръчни процеси.
В същото време организацията подчертава, че същите тези възможности предлагат на защитниците безпрецедентен прозорец от възможности, стига предприятията да действат бързо, за да модернизират своите програми за киберсигурност и да изчистят натрупаните от миналото проблеми със сигурността.
Предупреждението следва инцидент, описан от OpenAI като „OpenAI-Hugging Face“, при който съвкупност от автономни агенти е проникнала в изследователска инфраструктура успоредно с производствената среда на партньор. Проникването демонстрира как атакуващите могат да свържат zero-day уязвимости, изложени идентификационни данни, пропуски в конфигурацията и прекомерни права в сложни вериги от експлойти.
Много предприятия носят значителен технологичен дълг под формата на некоригиран софтуер, остарели кодове, слаби облачни настройки и забравени акаунти, останали незабелязани с години. Модерните AI агенти могат бързо да картографират изложени периметри, да одитират изходен код, да инспектират библиотеки от зависимости и да моделират цели графи на атаки в машинен мащаб.
Както е описано подробно в анализа на проучването, публикуван в „Прозорецът на защитника“ (Defender’s Window) на OpenAI, изкуственият интелект променя фундаменталната икономика на кибероперациите, като драстично намалява времето и специализирания опит, необходими за извършване на сложни атаки.
Чрез оценка на проактивни стратегии за тестване за проникване с изкуствен интелект, организациите могат да симулират тези машинно управлявани прониквания, преди киберпрестъпниците да експлоатират изложените активи. Защитниците могат да използват способни модели, за да откриват и отстраняват тези уязвимости, преди злонамерените субекти да ги открият.
Например президентът на OpenAI Грег Брокман е използвал AI система за одит на личния си уебсайт, откривайки тринадесет проблема със сигурността в рамките на петнадесет минути, включително липсващи защити срещу подправяне, остарели зависимости от jQuery и некриптиран трафик между Cloudflare и AWS. Впоследствие моделът е помогнал за генерирането на конфигурационни корекции за DNS, TLS и DMARC за отстраняване на всяка слабост. Внедряването на модерен софтуер за сигурност с изкуствен интелект позволява на екипите за сигурност да мащабират непрекъснатото валидиране на код, да автоматизират триажа на предупреждения и да поддържат достъп с минимални привилегии в разпределени облачни среди.
OpenAI съветва организациите да не чакат напълно автономни центрове за операции по сигурността (SOC), преди да внедрят AI защити. Вместо това предприятията трябва да въвеждат AI инструменти поетапно в анализи на уязвимости с режим „само за четене“, приоритизиране на рисковете от зависимости и анализи при реагиране на инциденти, като същевременно запазват човешкия надзор за производствени решения с голямо въздействие. Свързването на тези възможности с дисциплинирано автоматизирано управление на корекциите за сигурност гарантира, че организациите ще изчистят съществуващите си натрупани проблеми, преди автоматизираните инструменти за атака да ги експлоатират.