Компанията JetStream Security обяви пускането на „AI Kill Switch“ (авариен прекъсвач за изкуствен интелект), който позволява на организациите да спират компрометирани AI агенти при поискване, без това да влияе на други операции с изкуствен интелект. Този нов контролен панел за AI агенти решава проблема с невъзможността да се спре отделен агент, който се държи неестествено, започва да преразходва ресурси или трябва да бъде изключен поради съображения за съответствие, без това да засяга останалите агенти.
Решението на JetStream се справя с предизвикателство, с което много бизнеси не са се сблъсквали до момента: системите с изкуствен интелект стават все по-способни и, както показа скорошният инцидент с OpenAI/Hugging Face, могат да причинят значителни съпътстващи щети, докато се опитват да постигнат целите си по непредвидими за нас начини.
Тази нова реалност означава, че всяка организация трябва да има възможност за непрекъснат мониторинг на своите AI системи и възможност за прецизно спиране на злонамерени действия чрез авариен прекъсвач.
„Невъзможността да се спре излязла от контрол AI система, без това да повлияе на други производствени системи, е една от основните причини компаниите да се въздържат от внедряването на изкуствен интелект“, заявява изпълнителният директор на JetStream Security Радж Раджамани. „Само 17% от организациите използват AI в реална производствена среда, като спирачката е по-скоро липсата на доверие и контрол, отколкото самите модели. Аварийният прекъсвач намалява безпокойството на нашите клиенти. Ако една система се повреди, те спират само нея, а всичко останало продължава да работи.“
За да осигури това ниво на прецизност, JetStream анализира съвкупно потребителя, задействал действието, идентичността на агента, който го изпълнява, намерението на системата, извлечено от нейния шаблон („AI Blueprint“) и хронологията на действията, както и конкретния собственик на продукта, отговорен за този агент. Правата за достъп са картографирани в шаблоните на JetStream, така че всяко действие на агент може да бъде проследено до отговорен собственик. Това позволява на аварийния прекъсвач да отнеме точно определени права и да изключи правилните компоненти с едно прецизно действие.
Тъй като правата на всеки агент са индивидуални, аварийният прекъсвач засяга единствено компрометирания агент, а действията по спиране са обратими. JetStream спомага за изграждането на доверие и чрез записване на всяко действие, извършено от всеки субект, със съответно клеймо за време, което предоставя на организациите надеждна информация за преглед след инцидент.
Този запис е важен не само по време на самия инцидент. Той дава на компаниите нещо, което бордовете на директорите, одиторите и все по-строгите регулации за изкуствения интелект изискват: доказателство, че човек може да спре AI система при поискване, и ясни доказателства за това кой я е спрял и защо.
„Регулаторните и стандартизиращите органи тихомълком се обединиха около нещо, което повечето предприятия все още не са осъзнали: ако не можете да спрете един AI агент, вие не го контролирате. Законодателният акт на ЕС за изкуствения интелект (EU AI Act) вече изисква начин за безопасно спиране на високорискови системи, а Рамката за управление на риска от AI на NIST и ISO/IEC 42001 очакват от организациите да могат да изключват или да преустановяват работата на AI, който действа извън одобрените си граници. Бутонът за спиране вече не е просто допълнителна екстра, а е разделителната линия между контролирания от вас изкуствен интелект и този, който се управлява сам.“