Четиридесет процента от големите компании са имали проблем със съответствието или управлението, свързан с изкуствен интелект (ИИ), през последните 12 месеца, според проучване сред 1000 старши ръководители в областта на ИТ, операциите и трансформациите, проведено от Sapio Research. Тези ръководители посочват, че проблеми, свързани с процесите, са допринесли за 84 процента от инцидентите.
Изследователите отдават тази уязвимост на работни процеси, проектирани около хората. Одобренията, предаването на задачи и ръчните изключения съществуват, защото се е очаквало човек да управлява всяка стъпка. Когато дадена компания внедри ИИ в подобна структура, проверките се оказват на грешното място, работата се предава без нищо написано, а одитният запис не може да покаже как е взето дадено решение. Главен директор по сигурността на информацията (CISO), който трябва да обясни решение, взето с помощта на ИИ, пред одитор, може да установи, че доказателствата никога не са били записани.
Изследователите посочват два инцидента. При единия агент за програмиране е изтрил производствената база данни на стартираща компания, включително резервните копия, за девет секунди. При другия модели на ИИ, подложени на кибероценка, са излезли от своята изолирана среда и са прекарали четири дни и половина в действие върху реална инфраструктура, без някой да забележи случващото се.
Служителите заобикалят инструментите
Sapio също така анкетира 5000 служители, които използват ИИ или автоматизация на работното си място, като повечето от тях се притесняват, че тяхната собствена употреба на ИИ ще предизвика проблем със съответствието. Мнозина вече заобикалят инструментите. Те отменят резултатите от ИИ, когато процесът зад тях е настроен погрешно, и преправят работата на ръка, когато не могат да разберат как системата е стигнала до своя отговор. Повечето заявяват, че никой не се е консултирал напълно с тях за това как ИИ ще се впише в техните задължения.
Някои служители признават, че използват ИИ само за да изпълнят фирмено изискване. Това означава, че данните за внедряване на таблото за управление на ръководството могат да надценят колко реална работа върши изкуственият интелект. Ръководителите са и по-убедени от своя персонал, че ИИ прави хората по-продуктивни.
Препроектирането е в застой
Повечето ръководители казват, че компаниите им трябва да преустроят работните процеси около ИИ, за да останат конкурентоспособни. Две трети заявяват, че опасенията относно съответствието забавят тази работа, така че рискът, който прави препроектирането спешно, същевременно го възпира. Ръководителите оценяват, че адаптирането на техните най-важни процеси ще отнеме средно четири години.
Парите отиват предимно за инфраструктура, лицензи и модели, докато препроектирането на процесите получава малък дял. Ръководителите определят средните разходи за проекти с ИИ, които са се провалили поради проблеми с процесите, на 1,55 милиона долара на организация. Повечето от тях признават също, че добавянето на ИИ към съществуващите работни процеси предизвиква по-малко възражения в компанията, отколкото пълното препроектиране, което обяснява защо пряката пътека остава популярна.