Сложността на агентите е коварната сянка, която се крие в предприятията в момента и върху която трябва да се насочи светлина.

Това е така, защото предприятията не внедряват един-единствен агент и не го наблюдават как работи, те внедряват цели флотилии, всяка от които извиква API, извиква други агенти, достига до приложения, които никога не са били създавани с мисъл за вземане на решения от машина. Това е режимът на отказ, който трябва да ви държи будни през нощта: криволичеща, сложна система, която никой не може да види достатъчно ясно, за да я управлява. Но защо нещата стават толкова непрозрачни толкова бързо?

Добавете втори агент към системата и сте добавили една връзка. Добавете десети и не сте добавили десет връзки, а потенциално сте добавили десетки, защото сега всеки агент може да извика всеки друг, а всяко от тези повиквания може да задейства повикване някъде другаде. Сложността не се прокрадва с броя на агентите. Тя се усложнява с броя на пътищата между агентите и ничия работа не е да начертае тази графика. Заявка за поддръжка, която преди е засягала една система, сега може да премине през четирима агенти, преди човек да я погледне, и всяко от тези прехвърляния е точка за вземане на решение, която никой не е одобрил.

Повечето програми за изкуствен интелект в предприятията спират, когато хората, отговорни за техните агенти, изгубят нишката. Задайте на екипа по сигурност един прост въпрос: кои агенти до кои системи имат достъп, и последвайте мълчанието. Попитайте кой агент е задействал кое последващо действие преди три стъпки. Още мълчание.

Инстинктът е това да се третира като контролен списък. Одобрете агента. Регистрирайте агента. Продължете напред. Бих казал, че това е грешен инстинкт. Контролният списък проверява една единствена точка във времето. Сложността преминава през верига и не можете да управлявате верига с купчина еднократни одобрения, както не можете да наречете диетата успешна, защото веднъж сте изяли зеленчук.

И така, къде всъщност се провалят нещата?

Първо се прокрадва прекомерното разрастване на правата за достъп. Някой създава агент за обобщаване на заявки за поддръжка, предоставя му широк API достъп, защото правилното му ограничаване би отнело още един спринт, и го забравя. Шест месеца по-късно същият този агент има път към платежната система. Никой не помни да е одобрявал това. Никой не го е правил.

И собствеността се размива, колкото по-напред върви веригата. Пет агента засягат един работен процес, нещо се чупи на стъпка четири и сега питате кой е отговорен за връзка, която никой никога не е бил определен да притежава, защото организационната диаграма е спряла на „внедряване на агента“ и никога не е стигнала до „назоваване на човека, който отговаря за него“.

Това е история за инфраструктура за управление, която не е в крак с това как всъщност се държат агентите: взаимосвързани, каскадни, умножаващи се по-бързо от процесите, създадени за проследяването им.

Коригирането на този хаос започва с идентичността. Всеки агент трябва да съществува като отделно лице, а не като неформално разрешение, заето от този, който го е внедрил. Собствено име в регистъра. Собствени ограничени правомощия. Назован човек-спонсор, който отговаря за това, което прави. Тази част е необходима.

Но тя далеч не е достатъчна.

По-трудната част е надзорът, който се прилага по цялата верига, а не само на всяка отделна връзка в нея. Трябва да виждате какво е направил даден агент, какво е задействал по веригата и къде свършва тази следа в реално време, а не в отчет, който някой съставя веднъж на тримесечие. Направете идентичността на ниво агент правилно и спрете дотук, и ще се озовете с картотека, пълна с перфектно документирани агенти, работещи в система, която никой всъщност не може да обясни.

И надзорът сам по себе си ви казва само какво вече се е случило. Наблюдението на една верига не е същото като нейното контролиране. Прилагането на правилата е частта, която повечето програми пропускат: възможността да се спре повикване извън политиката преди то да се изпълни, а не просто да се запише в лога, за да го намери някой при преглед три седмици по-късно. Табло за управление, което ви показва, че даден агент е нарушил обхвата си преди пет минути, е инструмент за мониторинг. Система, която спира нарушението да се случи на първо място, е управление. Предприятията, които се отнасят сериозно към отговорността на агентите, се нуждаят и от двете, а повечето са изградили само първото.

Всички се движим с бясна скорост, за да сме сигурни, че няма да останем назад в надпреварата, в която се намираме, и всички сме твърде наясно, че забавянето има цена. Всяко предприятие, което се отнася сериозно към агентурния изкуствен интелект, в крайна сметка се сблъсква със стената на сложността. Тези, които я преодоляват, са тези, които са изградили достатъчно видимост и отчетност, така че техният флот да може да продължи да расте, без никой да губи способността си да отговори на един въпрос: какво прави тази система в момента и кой е отговорен за нея.

Но не пропускайте същината. Сложността не е причина да натискате спирачките. Предприятията, които правят това правилно, не намаляват темпото. Те градят в посока към Хармония между хора и агенти, където мащабът и отчетността растат заедно, вместо да се правят компромиси между тях.

Истинският риск никога не е бил в това един агент да прави точно това, за което е създаден. Рискът е стотици от тях да правят точно това едновременно, взаимодействайки в комбинации, които никой не е проектирал. Този вид умножение е това, което държи изкуствения интелект в предприятията заседнал в провеждането на пилотни проекти завинаги, вместо да работи в реална производствена среда.

Решете проблема със сложността и автономията ще престане да бъде злодеят.