Отворените модели навлизат в реална експлоатация (production) в рамките на все повече организации, а работата по осигуряване на сигурността на тези внедрявания все по-често надхвърля рамките на теглата на самите модели. Докладът на Mozilla "The State of Open Source AI 2026" идентифицира внедряването, управлението и оперативния инструментариум като постоянни пречки на фона на подобряването на възможностите на моделите.

„Без инвестиции в инфраструктурата, инструментариума и управлението около отворените модели, рискуваме да се затворим в система, в която само ограничителният ИИ със затворен код може да се мащабира – а това не служи на обществения интерес или на суверенитета при вземането на решения относно технологичната политика“, споделя Рафи Крикориан, главен технически директор на Mozilla.

Разликата във възможностите между водещите модели с отворен и затворен код се е свила до средно 3.3 точки в Chatbot Arena, което дава на организациите по-широк избор за работни натоварвания в реална среда. Средната стойност обаче крие разлики при различните задачи: отворените модели са почти или напълно равни при програмиране, следване на инструкции и общи познания, докато моделите със затворен код запазват предимство при логическо мислене, извличане на информация с дълъг контекст и агентни задачи.

Цената на най-евтиното предложение за модел, осигуряващ производителност от клас GPT-4, е спаднала 50 пъти за 36 месеца – от около $20 на $0.40 за милион токена. Този показател използва комбинирани цени по ценоразпис на API и не представлява всяко конкретно натоварване за генериране на изводи.

Моделите с отворени тегла съставляват около една трета от всички токени, насочени през OpenRouter до края на 2025 г. Данните обхващат рутирания трафик и изключват услуги от първи страни като ChatGPT и Gemini.

Внедряването продължава да изостава от приемането

79% от разработчиците използват отворени модели, а 89% от организациите използват компоненти с отворен код някъде в своя софтуерен стек. Въпреки това, малко над половината от организациите, използващи отворени модели, са ги прехвърлили в реална експлоатация. Моделите със затворен код продължават да достигат до производствена фаза по-често, което показва, че бариерите пред внедряването надхвърлят възможностите на самите модели.

Внедряванията, завършени с партньори доставчици, достигат до реална експлоатация по-често в сравнение с вътрешно разработените имплементации. Mozilla идентифицира оперативния инструментариум и организационното доверие като основните фактори, разделящи експериментирането от реалното използване.

Поддръжката от общността, лесното приемане и възможностите на моделите получават по-високи оценки в сравнение със стандартизацията и готовността за корпоративна употреба. Най-слабите резултати се наблюдават при защитните механизми, където управлението, оперативната последователност и зрялостта за производствена среда изостават от останалите части на екосистемата.

Организациите не прекарват по-голямата част от усилията си за оценка в решаване на това кой модел да използват, а в интегрирането им в производствени среди, които отговарят на оперативните изисквания и изискванията за сигурност. Малките организации отчитат сходни нива на внедряване в производство както за отворени, така и за затворени модели. Разликата се увеличава сред средните и големите предприятия. Допълнителният персонал и инфраструктура съвпадат с по-високи нива на внедряване в производство и за двата типа модели, но нивото на внедряване на отворени модели остава по-ниско от това на затворените във всяка по-голяма група. Компаниите се нуждаят от хостинг, поддръжка, интеграция, съдействие и контроли, които пасват на техните собствени системи.

Сигурността и операциите създават триене при внедряването

Разработчиците определят разходите за инфраструктура като предизвикателство, макар че сигурността, поверителността и съответствието с регулациите ги следват плътно. Поддръжката, сложността на внедряването и системната интеграция също се нареждат сред най-често срещаните оперативни опасения.

Разработчиците, които са спрели да използват отворени модели, съобщават за тези оперативни проблеми по-често от тези, които продължават да ги използват. Изискванията за поддръжка и предизвикателствата при интеграцията показват най-голям ръст, което предполага, че операциите в производствена среда са сериозен източник на триене след първоначалното експериментиране.

Агентната рамка (harness) става следващият слой на контрол

Mozilla описва агентната рамка като следващия голям слой на разработка. Тя включва оркестрация, инструменти, памет, среди за изпълнение, разрешения, идентичност, оценка, възможност за наблюдение (observability) и управление. Рамката се превърна в основната област, в която организациите разграничават производствените си внедрявания. Теглата на моделите се подобряват и стават по-широко достъпни, но съпътстващият софтуер определя как моделите се управляват, наблюдават и свързват с други системи.

Оценката на моделите често се фокусира върху възможностите, точността и представянето при тестове (benchmarks). Производствените внедрявания обаче въвеждат допълнителни изисквания, включително идентичност, разрешения, възможност за одит, контрол на бюджета и оперативен надзор над множество компоненти на изкуствения интелект.