Бизнесът приема сериозно управлението на изкуствения интелект (AI), но плановете му изостават от технологията, която използва, показва проучване на EY.
Dive Brief:
- Бизнесът разработва стратегии за изкуствен интелект, но тези планове не отразяват точно използването на автономен (агентен) AI, което оставя сериозни пролуки в киберсигурността, се посочва в доклад на EY, публикуван във вторник.
- Много от анкетираните в проучването на EY заявяват, че не са сигурни дали могат да открият неоторизиран AI агент в своята организация.
- Консултантската фирма отбелязва също, че наличието на планове не означава, че организациите са готови да се справят с предизвикателствата пред сигурността: „Формалното управление и оперативната ефективност не са едно и също нещо.“
Dive Insight:
Докладът на EY съдържа редица окуражаващи констатации за това колко сериозно компаниите се отнасят към управлението на AI. Почти три четвърти от фирмите изискват участие на човек (human in the loop) при вземането на важни решения, а 71% изискват от всички служители да преминат обучение за управление на рисковете от AI. Приблизително две трети изискват от своите доставчици да докладват за използването на AI модели, 58% използват външни рамки за управление на риска от AI от организации като Националния институт за стандарти и технологии (NIST), а 58% инвентаризират всички модели, които използват, включително вградените в инструменти на трети страни.
Но според анализаторите на EY тези обещаващи статистически данни крият по-дълбоки предизвикателства.
„Въпросът към одиторските комисии е: Какви доказателства показват, че механизмите за контрол работят?“, заявяват от консултантската фирма. „Непълен регистър, политика, която се заобикаля под натиск, или контрол, който не може да открие неоторизирана употреба в реално време, могат да доведат до един и същ практически резултат: управление съществува, но доверието в неговата оперативна ефективност остава ограничено.“
Автономният (агентен) AI представлява особено предизвикателство, се посочва в доклада. Почти шест от 10 анкетирани в организации, използващи агентен AI, съобщават за усещането, че нито една отделна група не наблюдава тези агенти след внедряването им, а близо четирима от 10 казват,телно че отговорността за надзора на агентите в техните организации е „неопределена“.
Приблизително половината от организациите заявяват, че техните рамки за управление на AI не са били актуализирани, за да включат рискове, специфични за агентния AI, четирима от 10 казват, че им липсва видимост за всички AI инструменти в техните мрежи, а около една четвърт от запитаните посочват, че тяхната организация „не може да открие неоторизирани AI агенти, работещи вътрешно“.
От EY заявяват, че констатациите „оставят важни въпроси за това дали контролите на [организациите] осигуряват пълно покритие“.
„Управлението, проектирано за резултатите от AI (outputs), може да не е достатъчно за действията на AI (actions)“, пишат анализаторите, „особено когато системите могат да работят в рамките на бизнес процеси, да взаимодействат с данни, да извикват инструменти или да изпълняват задачи без човешка намеса в реално време.“
Докладът предлага организациите изцяло да преосмислят своите механизми за управление. „Тъй като агентният AI навлиза все по-дълбоко в критичните работни процеси, осигуряването на сигурност ще трябва да се фокусира по-малко върху това дали даден контрол е проектиран, и повече върху това дали той може да идентифицира и прекъсне автономна дейност, преди тя да се превърне в съществен срив, както и да я обясни и докаже след това.“
Рисковете, свързани с AI, отдавна са преминали от теоретични в практически. EY установи, че близо девет от 10 организации са изпитали проблеми, свързани с AI през последната година. Повече от една трета от анкетираните са „преживели инцидент или грешка с AI, които са имали съществено негативно въздействие, включително загуба на данни, финансови щети, прекъсване на операционната дейност и репутационни щети“, съобщават от консултантската фирма.
Пропуските във видимостта на AI увеличават вероятността обикновен пробив да ескалира в нещо по-сериозно, се казва в доклада. „Широко отразен инцидент с AI може бързо да засегне репутацията, особено когато организацията не може да обясни как е взето дадено решение, кой контрол е се е провалил или кой е носил отговорност.“
EY е анкетирала 202 висши ръководители, вземащи решения в областта на AI, в публично търгувани компании в САЩ с най-малко 1 милиард долара годишни приходи в периода между 28 май и 15 юни.