BlackFog обяви пускането на ADX Vision 2.0, с което разширява възможностите си за сигурност на изкуствения интелект (ИИ), за да помогне на организациите да управляват и контролират използването на генеративен и агентен ИИ в предприятието.
Тъй като служителите преминават от обикновено взаимодействие с ИИ инструменти към внедряване на агенти, способни да вземат решения и да действат върху корпоративни данни, предизвикателството пред сигурността на организациите се променя. Традиционните контроли не са проектирани да се справят с рискове като инжектиране на подкани (prompt injection), неоторизирано разкриване на данни и ограничена видимост за това какво прави ИИ с корпоративните данни.
ADX Vision 2.0 осигурява независим контролен слой за корпоративен ИИ, който работи директно на крайната точка, преди данните изобщо да достигнат до ИИ услуга. Това дава на организациите видимост, управление и възможност за одит при всяко взаимодействие с ИИ, независимо дали е инициирано от служител или от ИИ агент, и определя какво е позволено да прави ИИ с данните, независимо кой инструмент или модел се използва.
Пускането надгражда възможностите на ADX Vision за откриване и контрол на нерегламентиран ИИ (Shadow AI), като се разширява в по-широк слой за сигурност и управление, тъй като организациите внедряват все по-автономни ИИ системи.
Седем слоя на защита от манипулиране на подкани
ADX Vision 2.0 въвежда седем слоя на защита, проектирани да идентифицират опити за инжектиране на подкани и други злонамерени или манипулирани подкани:
- Защита от превключване на контекста
- Защита от обфускация
- Откриване на опити за заобикаляне на ограниченията (jailbreak)
- Защита от изтичане на данни
- Откриване на опасни модели в подканите
- Разпознаване на ключови думи с неточно съвпадение (fuzzy matching)
- Откриване на structural аномалии
Същите защити се прилагат независимо дали подканата е написана от служител или е генерирана от ИИ агент, действащ от негово име. Това разширява сигурността до автономни работни процеси, при които липсва човешки контрол върху изпращаното съдържание.
Персонализирани контроли могат също да се прилагат на фирмено или отделно ниво за идентифициране на чувствителна информация, включително номера на кредитни карти, номера на социални осигуровки и специфична за даденโดмейн терминология.
По-голям контрол и възможност за одит
ADX Vision 2.0 позволява на организациите да пренасочват ИИ заявките към одобрени, официално лицензирани LLM услуги, помагайки за прилагането на политики за ИИ, без да пречат на служителите да се възползват от технологията. Например служител, който отвори личен акаунт в ChatGPT, може автоматично да бъде пренасочен към корпоративния ИИ екземпляр на компанията, запазвайки корпоративните данни в одобрени среди.
Платформата въвежда и незадължителна функция за одит на подканите за водещите авангардни LLM модели. Това осигурява по-голяма видимост и отчетност относно информацията, споделяна с ИИ системите, и поддържа изискванията за управление и съответствие с развитието на регулациите.
„ИИ бързо се превръща от нещо, с което служителите взаимодействат, в нещо, което може да взема решения и да предприема действия от тяхно име“, каза д-р Дарън Уилямс, главен изпълнителен директор на BlackFog. „Това променя уравнението за сигурност. Когато даден агент изпраща подкани от името на служител, няма човек във веригата, който да улови манипулирана инструкция или изтичане на чувствителни данни. ADX Vision 2.0 проверява агентните подкани със същите защити като тези, написани от хора.“
Видимост на токените и отчетност
ADX Vision 2.0 въвежда и единен изглед на консумацията на токени в различните LLM, показвайки на организациите къде се консумират токени и от кого. Това подпомага финансовото планиране и повишава разходната ефективност, като същевременно помага да се идентифицира потенциална кражба на токени, при която атакуващи използват откраднати API ключове или идентификационни данни, за да получат достъп до ИИ услуги и да генерират разходи за сметка на организацията.
- BlackFog