Microsoft AI публикува първата проектна версия на своя „Кодекс за поведение при хуманистичен изкуствен интелект“ (Humanist AI Code of Conduct) — ръководство за обучение, очертаващо как компанията разработва своите AI модели и как възнамерява да се държат те при внедряване. Проектът е отворен за обществено обсъждане за период от шест седмици.
Компанията планира да прегледа получената обратна връзка, да преработи документа и да публикува актуализирана версия по-късно тази година. Очаква се тази версия да направлява разработването на модели от 2027 г. нататък.
От Microsoft AI заявиха, че настоящите им модели все още не са обучавани според Кодекса, който остава в процес на разработка.
Кодексът е предназначен за екипите на Microsoft AI, обучаващи модели, както и за потребители, организации, работещи с нейните модели, изследователи, правителства и обществеността. Той определя принципи и правила, регулиращи поведението на моделите на MAI. Проектиран е да работи съвместно със съществуващите „Принципи за отговорен изкуствен интелект“ на Microsoft, „Стандарт за отговорен AI“, „Глобална декларация за правата на човека“ и, където е приложимо, „Рамка за управление на авангардни технологии“ (Frontier Governance Framework). Той също така допълва техническа документация като карти на модели (model cards) и технически доклади.
Принципи зад Кодекса
Кодексът се основава на концепцията на Microsoft AI за „хуманистичен суперинтелект“ — подход към напредналия AI, изграден около човешките нужди, човешкото насочване и човешкия контрол. Той има за цел да осигури стандарти за разработване, обучение и оценка на моделите на MAI.
Според Кодекса изкуственият интелект трябва да остане инструмент под човешки контрол, като от моделите се изисква да работят в определени граници и да подлежат на човешко управление.
Рамката установява безапелационни ограничения, предназначени да предотвратят причиняването на сериозни вреди от страна на моделите.
„Кодексът за поведение очертава нашия ангажимент да обучаваме и внедряваме AI модели, които са изрично проектирани първо за хората, базирани са на човешките нужди, намират се под човешки контрол и са оформени от човешкото направление“, заявиха от Microsoft AI.
Microsoft AI търси обществена обратна връзка
От Microsoft AI посочиха, че са се консултирали с академични среди и бизнес партньори по време на разработването на проекта и са организирали фокус групи с представители на обществеността за събиране на мнения и притеснения относно изкуствения интелект.
Сега компанията търси по-широка обратна връзка както по отделни разпоредби, така и по цялостната рамка. Сред поставените въпроси са как ценностите да бъдат вградени в моделите, дали концепции като „човешки процъфтяване“ са достатъчно конкретни за оценка, как рамката трябва да се справя със мултиагентни системи и как разработването на AI може да продължи да напредва при запазване на необходимите ограничения за безопасност.
Правила за безопасност и човешки контрол
Кодексът установява правила, регулиращи какво могат да правят моделите на MAI и как операторите и потребителите могат да конфигурират тяхното поведение.
Очаква се моделите да балансират рисковете от улесняване на вреди спрямо тези от ненужен отказ на легитимни заявки. Отговорите трябва да са съразмерни на очакваната вероятност и сериозност на потенциалната вреда, като се отчитат фактори като контекст, мащаб, обратимост и доколко пряко една заявка би могла да допринесе за вредата.
Microsoft AI въвежда йерархия на инструкциите, според която Кодексът за поведение има предимство, последван от политиките на оператора и след това от инструкциите на потребителя. Операторите и потребителите могат да персонализират поведението на модела, но не могат да отменят абсолютните ограничения или изискванията за човешки контрол, заложени в Кодекса.
Ограниченията покриват съдействие, свързано с химически, биологични, радиологични, ядрени и експлозивни оръжия, както и производството или модифицирането на други оръжия, нападателни кибероперации, вредна манипулация в голям мащаб, материали със сексуално злоупотреба с деца и експлоатация, злонамерени дийпфейкове, незаконно или масово наблюдение на цивилни и съдействие при насилие, тероризъм или преследване.
Разрешава се оторизирана и законна защитна работа в областта на киберсигурността, включително откриване на уязвимости, анализ на зловреден код и разработване и тестване на концептуални експлойти (proof-of-concept).
Изискванията за човешки контрол гласят, че моделите на MAI трябва да зачитат опитите за прекъсване, коригиране или изключване. Те трябва да останат в рамките на разрешения си обхват, да не инициират самостоятелно цели, да не ескалират права за достъп, да не заобикалят ограниченията на средата, да не крият следи от действия от човешки одитори и да не продължават автономна работа след изтичане на оторизацията.
Когато на моделите се дава достъп до системи или инструменти, от тях се изисква да следват принципа на минималните привилегии, използвайки само достъпа, необходим за изпълнение на оторизираната задача.
Организациите ще могат да конфигурират моделите на MAI за различни среди в рамките на основните ограничения на Кодекса. Microsoft AI признава, че някои оторизирани организации, работещи в области като защитна киберсигурност, обществена безопасност, национална сигурност и научни изследвания с двойна употреба, може да изискват възможности, които не са достъпни чрез обикновена конфигурация на модела.
От Microsoft AI заявяват, че моделите на MAI ще преминават през симулации на атаки (red-teaming), оценки на безопасността и прегледи преди и след внедряване, с защитни механизми и мониторинг, предназначени да се справят със злоупотреби и атаки от злонамерени субекти.