ИИ агентите принуждават предприятията да преосмислят управлението на сигурността, отговорността на хората и надзора с разширяването на внедряването им.
Докладът Reimagine 2026 на AWS твърди, че организациите трябва да вградят управлението в своите системи и да държат хората отговорни за резултатите. Констатациите произтичат от поверителни интервюта с продължителност от 45 до 60 минути с 154 ръководители в 128 организации от 23 индустрии, проведени в продължение на девет месеца.
Някои от интервюираните организации все още прилагат процеси за преглед, проектирани за шестмесечни ИТ програми, към работа, която отнема дни. Ако двуседмичен експеримент чака един месец за одобрение, някои екипи спират да искат разрешение. Политиката в тази ситуация „я тласка в сянка“, пишат авторите.
Един от интервюираните лидери заяви, че техническите директори по информационни технологии (CIO), които са прекарали години в управление на нерегламентиран ИТ софтуер (shadow IT), сега се справят с нерегламентиран ИИ (shadow AI) в десетократно по-голям мащаб.
Сигурността, поверителността и изтичането на данни са сред техническите рискове, които авторите идентифицират. Организациите се опасяват, че собственически данни, лична информация на клиенти или поверителна бизнес информация ще изтекъат през ИИ системи, понякога незабележимо и често чрез инструменти на трети страни, използвани от служителите без надзор.
Проучване на Strand Partners сред европейския бизнес, поръчано от AWS и цитирано в документа, установи, че повече от половината МСП и големи предприятия използват ИИ. Само 24% имат документиран подход за отговорно използване на ИИ, а 10% имат стратегия за управление на данните.
Крис Седор, вицепрезидент „Информационни услуги и технологии“ и CIO в Бостънския университет, оценява, че 40 до 50 процента от хората в университета използват ИИ поне веднъж седмично. „Част от това е в модели и системи, които предоставяме, а част се използва нерегламентирано“, каза той.
Когато ИИ чете имейлите на служителите
Имейлите, чатовете и бележките от срещи съставляват това, което Reimagine 2026 нарича „човешки слой“ от данни, и авторите виждат стойност в неговото извличане чрез ИИ. Те отбелязват, че достъпът до него повдига опасения относно поверителността.
В Houston Methodist Main Campus лекар предизвика главния изпълнителен директор и главен директор по иновациите Роберта Шварц, приемайки, че проект за ИИ означава, че ръководството чете съобщенията му. Това не беше така. „Едва успявам да се справя през деня с моите собствени имейли“, каза Шварц, припомняйки си разговора.
Служителите се нуждаеха от една година опит със системата, преди да се доверят, че тя извежда организационни модели и не засяга личното съдържание. Принципът, който се появи от интервютата, е, че ИИ разглежда модели на ниво група и изключва отделните лица.
Когато става въпрос за данни за заплати, решения за ЧР или лична комуникация, организациите ги анонимизираха/редактираха преди обработката, така че „ИИ да получава сигнала без идентичността“. Откровеността със служителите относно това как са използвани техните данни беше от ключово значение за изграждането на доверие.
Записване на правилата в системата
Някои организации сортират проектите за ИИ по риск преди започването им. Рафаел Кавалканти, главен директор по данните и директор „Данни и ИИ“ в Bradesco, изгради дърво за класификация, което пита дали даден случай на употреба включва лични данни, дали работи в реално време или на партиди (batches) и дали човек трябва да остане в контролния цикъл. Всяка комбинация от отговори съответства на ниво на риск и набор от контроли.
За ИИ агентите авторите съветват да се започне с одобрение от човек и автономията да се разширява едва след като агентът покаже, че е надежден, като същевременно се запази възможността тя да бъде стеснена отново. „Третирайте го като изпитателен срок за нов служител“, пишат те. Ограниченията за сигурност трябва да се задават извън агента, тъй като агентите „могат да разтълкуват погрешно или да заобиколят вградените правила“.
Регулаторните разлики между юрисдикциите допълнително усложняват нещата. „Когато сте в 22 държави, не искате парадигма, при която 20 от държавите са засегнати, защото две от държавите не позволяват определени неща“, отбеляза Дънкан Макдоналд, CTO на Cloud Enablement в Standard Bank.
Широка употреба, слаби резултати
Данните за употреба казват малко за резултатите. Една организация, наблюдавана в началото на нейното ИИ пътуване, изглеждаше 88 процента „внедрена“, но произвеждаше по-добра работа в по-малко от една на 5000 сесии.
Спестеното време също се нуждае от план. „Ако мога да свърша четири часа работа за един час и няма структура за това как ще бъдат използвани спестените три часа, тогава няма полза за компанията“, заяви д-р Рашед Икбал, CTO в RAK IDO.
Пролуката при младите таланти остава отворена. ИИ премахва повторната работа, която в миналото е изграждала преценка у младшите служители, и въпреки че организациите експериментират с решения, нито една от интервюираните не твърди, че има готов отговор.
- AWS
- поверителност
- стратегия