Ботовете следват скрипт. AI агентите работят за постигане на цел и сами избират стъпките си, което ги прави по-трудни за улавяне. В това интервю за Help Net Security Зохаиб Ахмед, главен изпълнителен директор на Resemble AI, обяснява как агентите пристигат като деклариран, недеклариран или маскиран трафик и защо бинарното откриване на ботове пропуска последните две групи.
Ахмед разглежда сигналите, които издават агентите, като времето между кликванията или група от сесии, преследващи една и съща цел. За агентите, които служителите настройват сами, той съветва да се започне с логовете за съгласие на OAuth и изходящия трафик.
Ботът следва скрипт и макар да може да чете съдържание, като кроулър или скрейпър, или да изпълнява фиксирана задача като попълване на формуляр или влизане в система, той е ограничен до скрипта. Един AI агент работи за постигане на цел, като резервиране на полет или завършване на покупка, и решава какви стъпки да предприеме в движение. Това може да стане чрез използване на браузър, което означава, че той кликва и скролва. Друг слой сложност е начинът, по който AI агентите се представят – те могат да бъдат декларирани, недекларирани или маскирани.
Декларирани: Идентифицират се в своя потребителски агент (user agent) или чрез подписан хедър, което ги прави лесни за разпознаване.
Недекларирани: Не се идентифицират, но и не се опитват да се скрият. Оставят обичайните отпечатъци на инструменти за автоматизация на браузъри и са по-трудни за откриване, тъй като всеки инструмент за засичането им се нуждае от данни за обучение, за да разпознае отпечатъка.
Маскирани: Променят своята идентичност или отпечатък на браузъра, за да изглеждат като обикновен посетител, и са почти невъзможни за откриване с традиционни инструменти, разчитащи на отпечатъци.
Тъй като откриването на ботове е до голяма степен бинарно (човек или не), то често пропуска недекларираните агенти и почти винаги пропуска маскираните агенти, които изглеждат като хора въз основа на начина, по който действат.
Процесът е силно базиран на сигнали, включително как се движи курсорът, каква е последователността на кликванията и колко бързи са те, как протича писането и как се държи скролването, заедно със споменатите издайнически знаци на браузъра и средата, като хедъри на заявките, флагове за автоматизация и подписи за Web Bot Auth от агенти, които се идентифицират сами.
След това има слой от сесии, при които потребителят се държи по един и същи начин или се движи към една и съща цел, което може да сигнализира за рояк (swarm) – нещото, за което екипите по сигурността в момента се притесняват най-много. След като можете да идентифицирате всички сигнали, следващата стъпка е обединяването им за разчитане в реално време и идентифициране на потенциални атаки.
Никой не казва на екипа по сигурността за своите агенти, особено сред първите възприемащи тази технология. За тях това е инструмент за продуктивност, който настройват за пет минути, и печелят повече, отколкото губят, като не преминават през официалния процес. Проблемът е, че тези агенти работят с идентификационните данни на служителя, така че в повечето логове просто изглежда сякаш този човек е много зает.
Бих започнал с вашия доставчик на идентичност и бих извлякъл логовете за съгласие на OAuth и предоставени права на приложения, тъй като всеки агент, който докосва имейл или календар, е генерирал токен в даден момент. Търсете приложения на трети страни с широки обхвати на достъп, като пълен достъп до пощенската кутия или диска, които само един потребител е одобрил.
Следващата стъпка са одитните логове във вашите основни SaaS инструменти за създаване на лични API ключове и токени, както и за какво се използват те след това. Следват логовете за изходящ трафик (egress) или прокси логовете за трафик, излизащ към API на доставчици на модели и платформи за агенти от машини без бизнес причина да ги извикват. След като имате списъка с предоставени права, активността ви казва останалото – един служител не чете 400 имейла за две минути в 3 часа сутринта и не приема покана в календара секунда след като е пристигнала, така че търсите същите модели на скорост и време от по-рано.
Реалистично погледнато, това трябва да бъде подкрепено от компаниите, които искат служителите им да възприемат AI, а политиките трябва да се адаптират, за да го поддържат по сигурен начин, вместо да се опитват да го преследват или забраняват.
Бих ги насочил към откриване на агенти, което адресира споменатите предизвикателства около недекларираните и маскираните сесии. Ние виждаме това като предизвикателство в три стъпки: първо, трябва да имате добра представа каква част от трафика към вашите активи (уеб и приложения) е от агенти.
Второ, можете да дефинирате политики около чувствителни данни, влизания в системи – на практика всички ваши рискови повърхности – и да ограничите достъпа до тях при по-широка първоначална проверка. Трето, можете да добавите автоматизирано маршрутизиране, за да адресирате както рисковете за сигурността, така и потенциалната загуба на приходи, която идва с блокирането на всички агенти, дори и на оторизираните. Това е нещото, което директорите по информационна сигурност (CISO) трябва да се стремят да постигнат през следващите 12 месеца, ако искат да удовлетворят своите клиенти и членове на борда по отношение на безопасност, която не съсипва финансовите им резултати.
Всякакъв вид метаданни. Това вече е ненадеждно – разчитането на местоположение или IP адрес, или каквото и да е друго, което се предполага, че показва човешки потребител, вече може лесно да бъде подправено или скрито. Това няма да бъде надежден сигнал след 6 месеца, да не говорим за 18.