Коалиция от над 30 лидери в технологичната индустрия, включително NVIDIA, Microsoft, CrowdStrike, Cisco, IBM, Palo Alto Networks и Red Hat, стартира Open Secure AI Alliance.

Инициативата има за цел да оборудва специалистите по киберзащита с прозрачни, управлявани от общността инструменти за сигурност на изкуствения интелект (AI), за да се противопоставят на все по-сложните цифрови заплахи.

Стъпвайки върху проекта Akrites на Linux Foundation и общността OpenSSF, алиансът се фокусира върху отстраняването на уязвимости и отвореното им оповестяване чрез подлежаща на проверка, споделена технология.

Алиансът твърди, че защитните AI модели не трябва да остават заключени в непрозрачни, патентовани системи. Моделите с отворени тегла и инструментите за проверка на оценката позволяват на екипите по сигурността да изследват, адаптират и внедряват инструменти за сигурност на собствената си инфраструктура — жизненоважна способност, когато скоростта на откриване и оперативната прозрачност определят дали дадено нахлуване ще бъде овладяно.

Неотдавнашен инцидент в Hugging Face демонстрира тази спешност. По време на пробив в сигурността, затворените AI инструменти не успяха да разграничат съдебните анализатори от атакуващите, блокирайки усилията за разследване.

Екипът за реагиране при инциденти на Hugging Face премина към модела с отворени тегла GLM 5.2, работещ локално, анализирайки над 17 000 системни действия, за да ограничи нахлуването.

Както се подчертава в официалното съобщение на NVIDIA, поддържането на прозрачност на инструментите за сигурност позволява на защитниците да инспектират и укрепват критичните системи, вместо да разчитат на доставчици тип „черна кутия“.

Организациите-членки допринасят със специфични компоненти с отворен код за изграждане на модулен „стек за защита“ за автономни AI агенти:

  • NVIDIA NOOA: Рамката NVIDIA Labs Object-Oriented Agent (достъпна в GitHub) опростява одита, проследяването и тестването на поведението на агентите.
  • Microsoft MDASH: Скенер за множество модели, който организира AI агенти за откриване и валидиране на софтуерни грешки, които могат да бъдат експлоатирани.
  • Hugging Face Safetensors: Сигурен файлов формат, проектиран да предотвратява рисковете от отдалечено изпълнение на код (RCE) в рамките на съхраняваните тегла на моделите.
  • HPE (SPIFFE/SPIRE): Принос към отворената рамка за идентичност, установяваща проверка на идентичността с нулево доверие (zero-trust) за AI работни натоварвания и агентски системи.
  • IBM & Red Hat Lightwell: Проект за сигурност на веригата за доставки, който защитава софтуера с отворен код чрез дигитално подписани корекции за сигурност.

Този съвместен подход допълва нововъзникващите пакети за сигурност с отворен код, създадени да рационализират управлението на уязвимостите в корпоративните среди.

Коалицията активно се противопоставя на твърденията, че отворените AI модели са по своята същност по-малко сигурни от затворените алтернативи. Въпреки че съществуват рискове от злоупотреба, ограничаването на достъпа не възпира киберпрестъпниците; то предимно ограничава способността на защитниците да инспектират и укрепват инфраструктурата.

Вместо да налага широкообхватни ограничения върху отворените модели от предната линия, групата се застъпва за съчетаване на отвореността със стабилни предпазни мерки, включително строги оценки, политики срещу злоупотреби и бързо коригиране на уязвимости.

Освен това алиансът се ангажира директно с регулаторните органи, като призовава политиците да разглеждат инструментите за сигурност с отворен код като жизненоважни защитни активи.

Общите ограничения рискуват да концентрират властта в ръцете на няколко доставчици на затворени екосистеми, което в крайна сметка отслабва цялостните защитни способности срещу сложните инструменти за AI агенти, внедрени в пейзажа на заплахите.

„Прозрачността, а не тайнствеността, осигурява основата за устойчива AI сигурност. Чрез обединяване на ресурси в секторите на облачния софтуер, крайните точки и корпоративния софтуер, алиансът гарантира, че защитниците запазват предимството на сътрудничеството.“