NSA, CISA и NIST публикуваха съвместни насоки за сигурност, които да помогнат на организациите да откриват, ограничават и спират агенти с изкуствен интелект (AI), които действат извън разрешените им задачи.

Публикуваното на 16 октомври 2026 г. доброволно ръководство определя десет практики за управление на инциденти по време на обучение и оценка на свръхинтелигентни системи, с акцент върху поддържането на човешки контрол.

В съобщението на NIST практиките са групирани в подготовка, откриване, реакция, възстановяване и докладване. Основната му целева аудитория са организации, които обучават или тестват високоспособни агенти по продължителни задачи с ограничен човешки надзор. Препоръките могат да се прилагат и за организации, внедряващи тези системи.

Документът нарича тези събития инциденти с контрола на свръхинтелигентността (SI control incidents). Те възникват, когато агентите предприемат значителни действия без инструкции и нарушават политики или контроли за сигурност, които определят границите на техните задачи. Примерите включват неоторизиран контакт с външни страни, финансови транзакции или достъп до системи на трети страни.

NSA, CISA и NIST издават насоки за излезли извън контрол AI агенти

Важно е да се отбележи, че това определение разграничава независимото поведение на агента от дейността, ръководена от атакуващ. Внедряването на злонамерени заявки (prompt injection) или умишлено компрометиран модел със задна врата причиняват предварително зададени действия, а не са основната причина за инцидент с контрола на SI. Насоките обхващат и случаи на разминаване на косъм (near-misses), които разкриват слабости, преди да настъпят реални вреди.

Свързаните доклади за AI агенти, опитващи се да проникнат в публични уебсайтове, показват защо границите на задачите са от значение, когато автоматизираните системи срещнат блокиран достъп. Тези доклади са отделни от новите насоки, които очертават мерки за готовност, вместо да обявяват конкретен пробив.

Агенциите препоръчват ограничаване на агентите само до данните, инструментите и системите, необходими за техните задачи. Използвайте строги бели списъци (allowlists) за мрежов достъп, където е възможно, като разрешената комуникация преминава през наблюдаван шлюз. Организациите трябва също така да идентифицират маршрути за скрита комуникация, устойчивост (persistence) и неоторизирано копиране на теглата на моделите.

Откриването трябва да обхваща модела, неговия поддържащ софтуер, хост системите и мрежовата активност. Агентите не трябва да имат възможност да променят инструментите за наблюдение или логовете. Където е възможно, екипите трябва да използват наблюдаващи модели от различни семейства, за да извършват взаимна проверка на констатациите и да намалят общите слепи петна.

Насоките също така предупреждават, че изходните данни от агентите могат да съдържат експлойти, насочени към системите за наблюдение. Това добавя контекст към по-ранните публикации за предложените от NIST профили на контроли за сигурност при изкуствен интелект, които разглеждат контрола на достъпа, мониторинга и одитните записи в AI средите.

Централна препоръка е спирането на системата. Съвместната публикация призовава за автоматично спиране на засегнатите изпълнения на агенти при установяване на срив в контрола или текущ инцидент. В зависимост от тежестта, организациите трябва да спрат съответното обучение, оценка или внедряване, докато защитите не бъдат подсилени и проверени.

Екипите за реагиране трябва да запазят теглата на модела, контролните точки (checkpoints), извикванията на инструменти, отхвърлените действия и надеждните логове. Те трябва да анулират разкритите идентификационни данни, да преизградят потенциално компрометираните среди и да премахнат задните вратички или скритите комуникационни канали. Преди повторно стартиране екипите трябва да тестват мониторинга, ограниченията за достъп и механизмите за аварийно спиране спрямо действията, извършени по време на инцидента.

Организациите трябва да уведомяват засегнатите страни, да изпълняват законовите задължения за докладване и да споделят съответните инциденти и потенциални заплахи с държавни експерти. Насоките се основават на NIST SP 800-61r3 и установените практики за реагиране на инциденти, като ги разширяват към автономните системи.