Cloud Range обяви официалното пускане на своя AI Validation Range и рамката Cloud Range AI Readiness Framework. Те предоставят на организациите структуриран начин да тестват AI модели и агенти в реалистични среди, да потвърждават тяхната готовност за оперативна отговорност и безопасност и да определят кои роли и задачи се управляват най-добре от AI в сравнение с човешки експерти.
Неотдавнашни инциденти, свързани с излезли от контрол AI агенти, разкриха пропуски в традиционното тестване, при които автономни агенти излизат извън предвидените граници и осъществяват достъп до външни системи. Тъй като изкуственият интелект получава все по-голям достъп и автономия, организациите трябва да докажат не просто, че той работи, а че се държи надеждно при злонамерени и неочаквани условия.
AI Validation Range на Cloud Range е безопасна и изолирана среда за тестване, която позволява на организациите сигурно и ефективно да провеждат симулации на атаки (red teaming) и да обучават AI модели и агенти в реалистични SOC среди, да разкриват режими на отказ и рискове за достъп, както и да сравняват производителността спрямо човешки защитници.
Екипите могат също така да тестват кои роли и отговорности за сигурност са най-подходящи за AI, кои изискват преценка и надзор от страна на хората и къде комбинацията от двете осигурява най-добри резултати. Това непрекъснато потвърждаване дава възможност на организациите да преоценяват готовността си с развитието на моделите, случаите на използване и заплахите.
„AI преминава от препоръчване на това какво трябва да направят хората към действителното му извършване, а това фундаментално променя уравнението на риска“, каза Деби Гордън, главен изпълнителен директор на Cloud Range.
„Последните събития показаха ясно, че успешният тест не е същото като доказана готовност. Един AI агент може да постигне поставената му цел и въпреки това да поемат по път, който никой не е очаквал или възнамерявал. Организациите трябва да разберат не само дали AI работи, но и как се държи под натиск, къде се проваля, кога се нуждае от човешка интервенция и какво ниво на автономия действително подкрепят доказателствата. Организациите не могат да си позволят да установят това в производствена среда.“
Изграден върху платформата за киберполигони на Cloud Range, AI Validation Range пресъздава реалистични корпоративни среди, включително лицензирани инструменти и генериране на сложен трафик. Богатата библиотека на Cloud Range от автоматизирани симулации на атаки от атакуващи позволява на организациите безопасно да тестват AI, без да рискуват производствените системи. Той осигурява контролирана среда за оценка на AI в реални SOC работни процеси и при злонамерени и непредвидими условия.
Cloud Range работи съвместно с организации върху своя AI Validation Range, за да изследва представянето на изкуствения интелект при реалистични оперативни условия. Този опит помогна за разработването на Cloud Range AI Readiness Framework, изградена върху процеса от 5 стъпки PROVE. Рамката е предназначена да помогне на лидерите по сигурността да преминат от предположения за работата на AI към решения, базирани на доказателства относно внедряването, автономията и надзора.
Рамката за готовност за AI на Cloud Range (Cloud Range AI Readiness Framework):
- Подготовка и обучение (Prepare & Train): Дефинирайте предвидената роля, граници и очаквания на AI и го подгответе за работните процеси и решенията, с които ще се сблъска.
- Оценка на риска (Risk-Assess): Разберете достъпа, правомощията, автономията и потенциалното въздействие на AI.
- Оперативно тестване (Operationally Test): Поставете под изпитание AI отвъд очакваното поведение, използвайки реалистични, неочаквани и злонамерени среди.
- Валидиране и бенчмаркинг (Validate & Benchmark): Измерете точността, производителността, последователността, ограниченията и риска, за да определите дали доказателствата подкрепят готовността.
- Оценка и развитие (Evaluate & Evolve): Непрекъснато превалидирайте производителността с промяната на моделите, заплахите, работните процеси, разрешенията и оперативните среди.
„Организациите не трябва да откриват за първи път в производствена среда до какво един AI агент има достъп, какво може да промени или да счупи“, каза Гордън. „Целта не е да се докаже, че AI работи. Целта е да се разбере как работи, къде се представя добре, къде не и как всъщност изглежда успехът, преди да му дадете по-голяма отговорност. Готовността на AI трябва да се доказва непрекъснато.“