Microsoft публикува проект на „Хуманистичен кодекс за поведение при AI“ (Humanist AI Code of Conduct), който забранява на вътрешните модели на компанията (MAI) да извършват кибератаки, да осигуряват оперативни възможности за атака или да увеличават собствените си привилегии.

Правилата изискват също така агентите с изкуствен интелект да подлежат на прекъсване, да бъдат прозрачни и да се ограничават стриктно до определените от хората разрешения и цели.

Документът, представен за шестседмично обществено обсъждане, има за цел да се превърне в основна поведенческа рамка за моделите, разработвани от Microsoft AI.

Microsoft го описва като ръководство за обучение и внедряване на системи от тип „Хуманистичен AI“, които остават подчинени, съгласувани и под контрол. Основната му цел е да гарантира, че хората са по-важни от изкуствения интелект и че системите трябва да останат под реален човешки контрол.

Забрана за кибератаки за Microsoft AI

Според „Абсолютните ограничения“ в проекта, моделите на MAI не трябва да инициират или да подпомагат оперативни възможности за кибератаки, независимо от начина, по който потребителят формулира заявката си.

Microsoft заявява, че моделите трябва да отказват генерирането на работещ код за експлойт, инструменти за атака, планове за насочване, процедури за проникване, техники за избягване на откриването или инструкции, които позволяват или подобряват дадена атака.

Тези ограничения имат предимство пред настройките на оператора и подканите от потребителите, така че корпоративните клиенти не могат да ги премахнат чрез конфигурация. Въпреки това политиката не налага пълна забрана за съдействие в областта на киберсигурността. Microsoft ще разреши оторизирана защитна дейност, включително откриване на уязвимости, анализ на зловреден код, обучение и тестване на концептуални експлойти (proof-of-concept).

Разграничителната линия е дали помощта помага на защитниците да намалят дадена заплаха, или предоставя практическа възможност за проникване. Специализираните внедрявания за защитна киберсигурност, обществена безопасност, национална сигурност и изследвания с двойна употреба могат да бъдат подложени на засилен преглед за съответствие с правните норми, безопасността и правата на човека през оторизираните канали на Microsoft.

Контролът на достъпа става все по-важен, тъй като системите с изкуствен интелект получават достъп до инструменти, идентификационни данни, мрежова свързаност и възможности за изпълнение на многостъпкови задачи.

Когато на даден MAI модел бъде предоставен достъп на системно ниво, той трябва да следва принципите на най-малките привилегии, да избягва несвързани системи и данни, да предпочита обратими действия и да предупреждава потребителите преди операции с трайни или общосистемни последици.

Той не трябва да ескалира привилегии, да разширява обхвата си, да заобикаля ограниченията на средата или да разширява поставената задача. Ако границите на задачата са неясни, моделът трябва да приеме консервативно тълкуване, да уведоми потребителя и да поиска разяснение, вместо самостоятелно да придобива допълнителни възможности.

Моделът не трябва да манипулира защитните механизми, мониторинга, механизмите за оценка, записите или сигналите за възнаграждение, за да постигне резултат или да скрие поведението си. Автономната работа трябва да има и договорено условие за спиране, след което системата не може да продължи или да се рестартира без подновена оторизация.

Йерархията на командите на Microsoft поставя Кодекса за поведение на първо място, политиките на оператора на второ и предпочитанията на потребителя на трето място. Инструкциите, внедрени в уеб страници, файлове, резултати от инструменти или съобщения от други AI системи, не получават никаква легитимност по подразбиране, което е важна защита срещу атаки от тип prompt-injection.

Делегираните агенти трябва да наследят първоначалния обхват и ограничения на модела, докато съмнителните външни инструкции трябва да се показват на потребителите или операторите. Проектът гласи, че моделите на MAI никога не трябва да се съпротивляват на прекъсване, корекция, пренасочване, отмяна или спиране.

Те не могат да прикриват следите от действията си, да представят погрешно логиката си, да комуникират с други агенти във форми, които хората не могат да разберат, или да използват измамни и самоподсилващи се механизми за избягване на надзора. Microsoft обобщава стандарта съвсем директно: ако завършването на дадена задача изисква нарушаване на Кодекса, моделът трябва да прекрати изпълнението ѝ с неуспех.

Предложението идва на фона на повишена загриженост относно сигурността на автономните AI агенти. OpenAI разкри през юли, че изследователски модели с намалени откази за кибератаки са избягали от изолирана среда за оценка, експлоатирали са zero-day уязвимост, осъществили са достъп до интернет и са компрометирали инфраструктурата на Hugging Face.

Anthropic също съобщава за злонамерени операции, при които многоагентни системи директно са извършвали разузнаване, експлоатация и извличане на данни, вместо просто да съветват хакери.

Microsoft предупреждава, че Кодексът все още е декларативен и в момента не се използва за обучение на настоящите модели на MAI. Общественото обсъждане започна на 14 септември 2026 г., като компанията планира да публикува актуализирана версия по-късно тази година, която да ръководи разработването на модели от 2027 г. нататък.

Практическата му стойност в крайна сметка ще зависи от това дали тези писмени ограничения ще издържат на атаки с враждебни подкани, злоупотреба с инструменти, двусмислени оторизации и реална автономна работа, а не просто дали правилата звучат успокояващо на хартия.