Вече е още по-лесно да се откриват — и експлоатират — уязвимости в компютърните системи с помощта на изкуствен интелект.

Миналия петък китайската компания за изкуствен интелект Z.ai анонсира мощен модел с отворени тегла (open-weight), който според нея е способен да автоматизира авангардни задачи по програмиране и киберсигурност почти толкова добре, колкото най-добрите публично достъпни модели на Anthropic и OpenAI.

Новият модел, GLM 5.3, би могъл да бъде от голяма полза за компаниите, които искат да защитят системите си от атаки, предоставяйки по-евтин начин за сканиране за скрити грешки и други слабости. Моделите с отворени тегла — или тези, които са свободни за изтегляне — могат да се изпълняват на собствен хардуер и често са значително по-евтини от затворените модели като Claude и GPT. Наред с новия модел Z.ai пусна и OpenVuln — услуга за сканиране на кодови хранилища за уязвимости с помощта на GLM 5.3.

Засега новият модел е в ограничена версия за доверени партньори, но той показва колко бързо моделите с отворени тегла придобиват свръхчовешки хакерски умения. А това може да създаде проблеми, ако моделът бъде впрегнат в работа от престъпници и други злонамерени субекти.

Тази перспектива е особено отрезвяваща след поредица от стряскащи инциденти, включващи отцепили се AI агенти с напреднали киберумения. През последните седмици OpenAI, Anthropic и независими изследователи в областта на сигурността разкриха примери за агенти, които избягват от тестови среди и автономно хакват външни системи, включително изследователската платформа Hugging Face, за да изпълняват задачи.

В понеделник президентът на OpenAI Грег Брокман предупреди в публикация в блога си, че инцидентът с Hugging Face ще остане в историята като „повратна точка за киберсигурността, тъй като даде представа за това как ще се развият възможностите на един типичен атакуващ през следващите месеци“.

Брокман твърди, че AI моделите стават толкова добри в претърсването на кодови бази за неизвестни дефекти и в анализирането на системи за грешни конфигурации, че за организациите е от решаващо значение да използват изкуствен интелект за сканиране на своите системи и идентифициране на проблемите, преди те да могат да бъдат експлоатирани.

OpenAI, разбира се, би искала компаниите да използват нейния изкуствен интелект за тази цел. Засега тя действа предпазливо при предоставянето на достъп до най-способния си изкуствен интелект. Подобно на Anthropic, OpenAI направи най-модерните си модели достъпни за ограничен брой партньори преди пълното им пускане. Правителството на САЩ също се бори с този въпрос и вече преразглежда граничните модели (frontier models) като част от техните релизи.

Някои вярват, че AI с отворен код ще бъде от решаващо значение за укрепването на системите срещу атаки; Nvidia наскоро обяви съюз за насърчаване на използването на отворен изкуствен интелект за киберсигурност. Предишна версия на GLM на Z.ai беше използвана от Hugging Face за укрепване на нейните системи, след като непубликуван модел на OpenAI излезе извън контрол и ги компрометира миналия месец.

В публикация в X Гилермо Раух, главен изпълнителен директор на Vercel (компания за уеб дизайн и хостинг), сподели, че неговите инженери са тествали GLM 5.3 като инструмент за сканиране на сайтове за грешки. „Предвид по-ниските му разходи, очаквам това да бъде благодат за дефанзивната работа по сигурността“, написа Раух в публикацията си. „Това е новата отворена граница.“

В публикация, с която анонсира GLM 5.3, Z.ai заяви, че е подобрила модела чрез допълнително обучение (post-training), което включва предоставяне на примери за решени проблеми на модела и му позволява да се учи чрез експериментиране. Компанията цитира резултати от бенчмаркове за програмиране и киберсигурност, които показват, че GLM 5.3 се доближава или дори надминава в някои случаи резултатите на моделите на Anthropic и OpenAI, като например при един популярен бенчмарк за киберсигурност, наречен CyberGym.

Z.ai също така призна риска от пускането на мощни отворени модели в своята публикация. „Тези възможности могат да помогнат на защитниците да идентифицират слабостите по-рано, да валидират рисковете и да ускорят отстраняването на уязвимости“, пише компанията. „Те също така създават ясни рискове от двойна употреба. Поради това предприемаме поетапен подход към пускането. Избрани партньори по сигурността първо ще оценят GLM-5.3 в контролирани среди.“ Z.ai казва, че пълният достъп до модела ще бъде наличен след две седмици.

„Този модел изглежда изключителен, с малко изумително увеличение на резултатите“, написа Нейтън Ламбърт, виден експерт по изкуствен интелект, в публикация за GLM 5.3. „Това е още една стъпка към неизбежното разпространение на много силни кибервъзможности в цялата икономика.“

Последното издание на Z.ai също така подчертава предимството на Китай при моделите с отворени тегла. Въпреки че САЩ се опитват да ограничат достъпа на страната до най-модерните чипове за обучение на AI модели, през последните месеци бяха пуснати няколко изключително мощни модела с отворени тегла, включително Qwen 3.8 Max от Alibaba и Kimi 3 от Moonshot AI. Z.ai по-рано заяви, че е използвала произведени в Китай чипове от Huawei за обучението на някои от своите модели. Meta, която изглеждаше, че е изоставила изкуствения интелект с отворен код, сега изглежда готова да поведе американското предизвикателство с мощен модел, наречен Muse Spark.

Правителството на САЩ разработва рамка, предназначена да смекчи въздействието на развиващите се кибервъзможности на изкуствения интелект. Голям оставащ въпрос е какво трябва да се направи с отворените модели — особено тъй като те носят повече потенциален риск.