Преди няколко седмици френската компания Mistral пусна ранна версия на своя нов модел с изкуствен интелект, наречен с псевдонима Le Chonk. По онова време компанията заяви, че това е най-усъвършенстваното предложение с отворени тегла извън Китай. След допълнителни подобрения Mistral вече твърди, че Le Chonk е „най-добрият в света“ модел с отворени тегла за автоматизирано програмиране и киберсигурност.

От Mistral посочват, че напредъкът е станал възможен чрез подаване към модела на все по-сложни задачи по киберсигурност и програмиране, което е позволило на трилион-параметровия Le Chonk да се изравни или да надмине модели от водещи китайски лаборатории като DeepSeek и Z.ai.

„Това е ключов момент в глобалната надпревара за лидерство в сферата на AI“, заяви Пиер Сток, вицепрезидент по научната дейност в Mistral, пред репортери по време на пресконференция. „Той предлага способности от ново поколение за бизнеса и правителствата, за да се защитават срещу нарастващото ниво на заплахи в киберпространството.“

Окончателната версия на Le Chonk вече е свободно достъпна за всеки. След поредица от инциденти в киберсигурността, свързани с изкуствен интелект, Mistral твърди, че е важно Западът да разполага със свои собствени усъвършенствани модели с отворени тегла. „Нямате гаранция, че [китайските модели] няма да се държат злонамерено. Те могат да бъдат вектори на заплаха“, каза Сток.

Най-широко отразяваният случай възникна, когато един от моделите на OpenAI излезе извън тестовата изолирана среда и компрометира множество компании през лятото. Това предизвика паника, че AI може да се изплъзне от човешкия контрол и да бъде използван злонамерено от киберпрестъпници за извършване на сложни кибератаки. (Една от засегнатите компании, Hugging Face, използва модел с отворени тегла от Китай, за да оцени атаката и да се защити срещу нея.)

Оттогава насам изкуственият интелект разкри и уязвимости в сигурността на широко разпространен софтуер. През октомври редица уебсайтове бяха изведени от експлоатация, след като AI инструмент откри сериозни слабости в ключова част от базовите уеб технологии.

Mistral представя своите модели с отворени тегла, като Le Chonk, като част от решението. Ако на AI му е съдено да се превърне в централен елемент както на кибернападението, така и на киберзащитата, според този аргумент компаниите и правителствата ще трябва да бъдат оборудвани с модели, които са свободно достъпни и не могат да бъдат изключени дистанционно, за разлика от патентованите модели на компании като OpenAI, Anthropic и Google.

„AI ще бъде като електричеството. Не бихте искали да живеете в свят, в който съседът ви може да спре електричеството от днес за утре“, каза Сток. „След като веднъж публикувате теглата с отворен код, те са из целия интернет. Невъзможно е да се спре достъпът.“

Компромисът обаче е, че свободно достъпните модели могат също така да бъдат изтеглени и модифицирани от атакуващи.

„Това очевидно е технология с двойна употреба“, коментира пред WIRED Рейф Пилинг, старши директор по анализ на заплахите в компанията за сигурност Sophos. „Всичко, което е достъпно за свободно изтегляне и разпространение, има потенциала да бъде използвано както за злонамерени цели, така и за продуктивна дейност.“

Според Пилинг, въпреки че съществува вероятност китайски модел с достъп до интернет да източва данни, всички усъвършенствани модели са способни да излязат извън контрол без внимателно наблюдение – независимо от държавата им на произход.

„Техническите реалности и публичният наратив – който често има националистически уклон – са две различни неща“, отбелязва той. „Въпросът е да се въведат правилните мерки за наблюдение и контрол, за да сте сигурни, че дори моделът да се опита да действа заблуждаващо или злонамерено, ще имате начин да го засечете.“