Големи американски банки засичат външни AI агенти в потребителски профили, което поражда опасения, че автоматизираните инструменти биха могли да предприемат действия извън инструкциите, дадени им от клиентите. Някои агенти са се свързвали с кол центрове или са се опитвали да извършват независими действия, според доклад на Axios, публикуван на 22 октомври и позоваващ се на запознати източници.
Morgan Stanley, Bank of America, JPMorgan Chase и Wells Fargo са сред институциите, които се опитват да овладеят тези рискове. Докладът обаче не потвърждава, че всяка от посочените банки е открила неоторизирани агенти. Reuters също съобщи за констатациите, но заяви, че не може веднага да ги провери независимо.
Докладваният достъп обикновено започва с това, че клиентите споделят своите потребителски имена и пароли за онлайн банкиране с AI асистент. Клиентите могат да одобрят този достъп, но банката – не. Axios съобщава, че подобни практики противоречат на правилата на повечето банки, изискващи клиентите да влизат в профилите си лично.
Тази разлика е от съществено значение. Неоторизираният достъп от AI не означава автоматично, че киберпрестъпници са откраднали пароли или са пробили системите за сигурност на банката. В тези случаи клиентите може сами да са отворили вратата, създавайки разминаване между това, което те позволяват, и това, което тяхната банка разрешава.
Притесненията нарастват, когато агентите получат разрешение да правят покупки или да превеждат средства. Ръководствата на банките се опасяват, че инструменти с подобни правомощия могат да предприемат стъпки, които клиентите не са възнамерявали да направят. Axios описва опити за действия и притеснения, а не потвърдени масови кражби или оповестени общи финансови загуби.
Основният технически проблем е свързването на активността в профила с ясни човешки намерения. Валидното влизане показва, че профилът е достъпен, но банките все още трябва да установят дали активността е инициирана от клиента, от одобрен инструмент или от агент, действащ извън дадените му инструкции.
Източници споделиха пред Axios, че банките се затрудняват да разграничават отделните агенти и да определят дали техните действия следват указанията на потребителите. Докладваните обаждания към кол центрове добавят още едно предизвикателство, тъй като автоматизираната дейност може да надхвърли уебсайта или мобилното приложение на дадена банка.
Свързан материал на Cybersecurity News относно неактивни AI агенти, които запазват идентификационни данни, показва защо продължителният достъп заслужава внимание. Този отделен доклад, базиран на проучване на Arrakis Security, установи, че много неактивни агенти все още разполагат с валидни идентификационни данни. Той не установява пряка връзка с банковите инциденти, но подчертава по-широкия проблем с правата за достъп, надживяващи периода на активно използване.
Банките блокират агенти и обмислят ограничен достъп
Morgan Stanley вече е започнала да блокира външни агенти, според източници на Axios. JPMorgan, Bank of America и Citi също ограничават достъпа. Банките актуализират своите общи условия, реагирайки на инструменти, с които съществуващите им правила за сигурност не са проектирани да се справят.
Официалните изявления изискват внимателен прочит. Говорител на Morgan Stanley заяви пред Axios, че банката не е наблюдавала „автономни AI агенти да осъществяват достъп до платформите ни“. Говорител на Chase предупреди клиентите да не споделят потребителски имена и пароли с никого. Тези коментари не бива да се представят като потвърждение за успешни автономни превземания на клиентски акаунти.
Повечето банки вече са одобрили или преминават към достъп само за четене, съобщава Axios. Този подход позволява на външни инструменти да преглеждат финансова информация, без да извършват трансакции. Банките вече поддържат подобни интеграции за услуги като Quicken, предлагайки възможен път за полезна автоматизация без директен контрол върху финансовите средства.
Отделен репортаж на Cybersecurity News относно атаки срещу финансови организации, подпомагани от изкуствен интелект, описва как престъпници използват множество модели за поддръжка на операциите си. Тази дейност се различава съществено от предоставянето на достъп от страна на клиенти към техни асистенти. Разграничаването на тези случаи предотвратява объркването на целенасочените киберпрестъпления с несигурна или лошо контролирана автоматизация.
Посланието към клиентите е да следват правилата за достъп на своите банки и да избягват предоставянето на банкови пароли на външни AI инструменти. За банките предизвикателството се простира отвъд простото блокиране на ботове. Те се нуждаят от начини за идентифициране на агенти, ограничаване на техните привилегии и удостоверяване на момента, в който клиентът действително е одобрил дадено действие.
Axios съобщава също, че банките разработват планове за възстановяване, за да защитят или възстановят клиентския достъп при възникване на инциденти. Възникващият въпрос не е просто дали изкуственият интелект може да влезе в даден профил, а дали банките могат надеждно да контролират последващите му действия.