A10 Networks обяви официалното пускане на пазара на A10 AI Gateway – централизирана, интелигентна платформа за управление (control plane), която предоставя на организациите унифицирано маршрутизиране, управление на разходите и управление (governance) на всеки AI агент, приложение и голям езиков модел (LLM), които използват.

С ускоряването на внедряването на изкуствен интелект (AI), разработчиците все по-често изграждат агенти и вграждат AI в приложения и бизнес системи, черпейки ресурси от нарастващ набор от модели в рамките на предприятието. Без централна точка за контрол екипите имат ограничена видимост за това кои модели се използват, как работят, колко струват и дали работните натоварвания се изпълняват ефективно.

A10 AI Gateway обединява всички тези взаимодействия с AI в единна, контролирана среда, така че организациите да могат да оптимизират производителността, да контролират разходите, да централизират възможностите за наблюдение (observability), да налагат мерки за сигурност и да осигурят на разработчиците и потребителите надежден достъп до правилните модели.

„От предприятията се изисква да се движат бързо по отношение на AI и в същото време да запазят контрола. Използването на AI се разпространява по-бързо, отколкото екипите могат да го открият, управляват или защитят, което повишава разходите и не оставя единно място за определяне на правилата. A10 AI Gateway предоставя на организациите една интелигентна платформа за управление, за да виждат как се използва AI, да контролират кой кои модели може да достъпва и да съпоставят всяка заявка с правилния модел на правилната цена. Нашето интегрирано портфолио дава на клиентите пълен, суверенен начин да внедрят AI в мащаб. Това е начинът, по който предприятията приемат AI с увереност, вместо да жертват контрола в името на скоростта“, заяви Друпад Триведи, президент и главен изпълнителен директор на A10 Networks.

Отвъд измерването: Интелигентна платформа за управление на AI

Първото поколение AI шлюзове централизираха достъпа, опростиха управлението на API и измерваха заявките при различните доставчици. Оттогава насам AI в предприятията стана много по-динамичен, като различните екипи се нуждаят от различни модели, а всяка заявка варира по сложност. A10 AI Gateway надхвърля простото управление на AI трафика, като интелигентно маршрутизира всяка заявка към най-подходящия модел въз основа на нуждите на конкретната заявка, като същевременно дава на организациите възможност да управляват достъпа, използването и разходите на индивидуално ниво и на ниво екип.

Ключовите възможности на A10 AI Gateway включват:

  • Достъп до AI на базата на идентичност: Организациите прилагат политики за достъп и маршрутизиране според индивидуалния потребител и груповия профил (например „инженерство“ срещу „финанси“), в синхрон със съществуващите локални системи за директории.
  • Интелигентно маршрутизиране: A10 AI Gateway надминава статичните политики за маршрутизиране и простото измерване на потреблението. Той оценява сложността и типа на всяка заявка и след това, чрез логически анализ, насочва простите задачи към по-икономични модели, а сложните задачи, изискващи задълбочен анализ – към по-способни модели.
  • Централизирано управление на трафика и разходите: Действайки като централна платформа за управление, A10 AI Gateway осигурява проследяване на разходите за всяка заявка в реално време в долари; бюджети за токени за всеки модел и екип с твърди лимити и предупреждения за меки лимити; както и ограничаване на честотата на заявките на бизнес ниво (TPM/RPM), наложено за всеки ключ или екип, като всичко това се комбинира с централизирана видимост за начина, по който AI се използва и управлява.

Резултатът е по-контролиран, ефективен и сигурен подход към корпоративния AI, помагащ на организациите да увеличат максимално стойността от всяко взаимодействие с изкуствен интелект, като същевременно запазват видимостта и контрола върху начина на достъп и използване на AI.

A10 AI Gateway допълва по-широкото портфолио за сигурност на AI на A10, включително решенията TrojAI и ThreatX, като защитава AI през целия му жизнен цикъл: тестван преди внедряване, защитен по време на работа (runtime) и с принудително прилагане на политиките на мрежово и API ниво.

Доставяно като софтуер или с интегриран хардуер, който работи изцяло в собствената среда на клиента – на място (on-premises), в частен облак или в изолирана среда (air-gapped) – портфолиото запазва моделите, данните и политиките под контрола на организацията с пълен суверенитет над данните, предимство, което хостваните в облака и ориентираните към периферни изчисления (edge) шлюзове не могат да предложат.