Моделите с изкуствен интелект (ИИ) с отворен код и отворени тегла са съществени инструменти за киберсигурност, заявиха две групи от водещи компании в областта на ИИ и сигурността.

Глобални технологични фирми, компании за киберсигурност и изкуствен интелект засилват натиска си върху правителството на САЩ да възприеме отворени ИИ системи, изтъквайки техните ползи за сигурността и предупреждавайки срещу опитите за блокирането им на фона на надпреварата във въоръжаването с ИИ с Китай.

Първият изстрел беше произведен в петък, когато коалиция от 76 компании излезе с отворено писмо, възхваляващо добродетелите на ИИ моделите с отворени тегла. Вторият последва в понеделник, когато 37 компании – включително някои от подписалите отвореното писмо – стартираха Алианса за отворен сигурен ИИ (Open Secure AI Alliance) за напредък на подобна мисия.

И двете усилия идват в момент, когато Силициевата долина и Вашингтон се опитват бързо да реагират на нарастващата мощ на китайските ИИ системи с отворени тегла, които само през последните няколко седмици значително намалиха разликата в изтънчеността на ИИ между Китай и САЩ.

Въпреки че големите американски фирми за ИИ остават предпазливи по отношение на неотдавнашния напредък на Китай, новата връзки с обществеността кампания за модели с отворени тегла предполага, че те са по-загрижени от последиците от разчитането на затворени системи за всичко – от откриването на лекарства до откриването на уязвимости.

„Лидерството ни в областта на ИИ ще се оценява не по един авангарден модел на ИИ, а по това дали Съединените щати изграждат силна, отворена екосистема, която навлиза във всеки сектор“, се казва в отвореното писмо. „Това е от съществено значение за създаването на възможности за иновации и просперитет в цялата страна.“

Отворените тегла улесняват навлизането на нови фирми в индустрията на ИИ, разширявайки конкуренцията, която укрепва икономиката, се посочва в писмото. Те също така дават на клиентите по-голям контрол, като им предоставят свободата да се движат лесно между доставчиците на ИИ.

И въпреки че отворените тегла крият „реални и отчетливи рискове“, тъй като всеки може да модифицира ИИ моделите след пускането им, създавайки множество потенциално злонамерени варианти, те също така „разширяват защитните способности, повишават прозрачността и позволяват откриването и отстраняването на уязвимости от много екипи“, пишат подписалите писмото.

Компаниите нарекоха ИИ моделите с отворени тегла „един от най-важните пътища към безопасността и сигурността на ИИ“. Те отбелязаха, че моделите със затворен код могат да бъдат компрометирани или с тях да се злоупотреби по трудни за откриване начини, и изтъкнаха, че концентрирането на пазара на съвременен ИИ в САЩ в ръцете на няколко големи доставчици на модели със затворен код „задълбочава този риск“.

Подписалите писмото са едни от най-влиятелните субекти в технологичния свят, включително фирми за рисков капитал като Andreessen Horowitz, технологични гиганти като Cisco, Google и Microsoft, както и OpenAI.

Алиансът за отворен сигурен ИИ подчерта киберсигурността още по-ясно в съобщението за старта си.

„Точно както отвореният код създаде споделена основа за софтуера“, заявиха основателите на групата, „Съединените щати и техните партньори сега са изправени пред избор в сигурността на ИИ: дали защитите, които предпазват нашата инфраструктура, ще се намират в няколко непрозрачни системи, или ще бъдат изградени върху отворени модели, среди и инструменти, които всеки защитник може да изучава, адаптира и внедрява.“

Алиансът отбеляза, че китайски модел с отворен код, GLM 5.2, се е оказал от съществено значение за киберзащитата, когато два модела на OpenAI автономно са хакнали ИИ библиотеката Hugging Face и операторите на библиотеката е трябвало да анализират ситуацията. Моделите на ИИ със затворен код са отказали да анализират данните за заплахата, които Hugging Face е въвела, предполагайки, че компанията се опитва да стартира собствена атака. Единствено GLM 5.2, който Hugging Face е успяла да стартира на собствените си сървъри, е отговорил на въпросите на компанията и е предоставил необходимите препоръки за защита.

Hugging Face е една от 37-те компании, помогнали за основаването на алианса. Сред останалите са Adobe, CrowdStrike, NVIDIA, Palo Alto Networks и Siemens.

Подобно на отвореното писмо, алиансът признава, че съществуват реални рискове при моделите на ИИ с отворен код, включително липсата на предпазни огради срещу съдействие при кибератаки. Но „правилният отговор не е да се откаже достъп на защитниците до способни отворени системи“, заявиха от алианса. „Той е отвореността да се съчетае със силни предпазни мерки, ясни правила срещу злонамерена злоупотреба, строга оценка и бързи мерки.“