Ново доказателство за концепция разкрива как атакуващи могат да превърнат Microsoft Copilot – асистентът с изкуствен интелект, вграден в Microsoft 365 – в неволен съучастник за компрометиране на бизнес имейли (BEC) и мащабни банкови измами.

Демонстрацията показва, че един компрометиран служителски акаунт може да ескалира с тревожна бързина до пълно поглъщане на акаунта на изпълнителен директор и кражба на четвърт милион долара, с минимални технически усилия от страна на атакуващия.

Атаката започва в момента, в който авторите на заплахата получат достъп до входящата поща на обикновен служител. Вместо да разчитат на традиционни техники като скриптове на PowerShell или инструменти за отдалечен достъп, изследователите на Barracuda показаха как атакуващите злоупотребяват със самия Copilot, за да ускорят всеки етап от проникването.

Първата им стъпка е установяване на устойчивост: проста подкана към Copilot създава правило за входяща поща, което безшумно пренасочва известията за вход към папката „Изтрити елементи“, предотвратявайки забелязването на подозрителни предупреждения за вход от жертвата.

Киберпрестъпници използват Microsoft Copilot като оръжие

След като си осигурят достъп, атакуващите преминават към разузнаване. Вместо ръчно да преглеждат месеци имейл история, те молят Copilot да обобщи организационната структура и да извлече активни разговори, идентифицирайки незабавно изпълнителния директор на компанията като следваща цел.

Използвайки контекст, извлечен от реална имейл кореспонденция между жертвата и изпълнителния директор, атакуващите подканват Copilot да състави убедително съобщение, написано в собствения тон и стил на жертвата, допълнено с placeholder връзка, маскирана като потвърждение на фактура.

Когато изпълнителният директор щракне върху връзката, тя преминава през прокси сървър „adversary-in-the-middle“, който прихваща сесиен токен, позволявайки на атакуващите да заобиколят напълно многофакторното удостоверяване и да поемат контрол над акаунта на изпълнителния директор. Същото генерирано от Copilot правило за входяща поща се използва повторно, за да скрие предупрежденията за вход и да запази скритността на атаката.

Веднъж в пощенската кутия на изпълнителния директор, атакуващите питат Copilot за „актуализация на скорошни финансови имейли, включително фактури, парични стойности и предстоящи преводи.“ В рамките на секунди Copilot извежда предстоящ банков превод от $247 500, който чака окончателно одобрение – откритие, което би отнело на човешки атакуващ часове ръчно търсене.

Използвайки автентичния стил на писане на изпълнителния директор, Copilot изготвя спешен имейл до финансовия екип, който изисква промяна на банковата сметка за транзакцията.

Тъй като съобщението произхожда от истинската пощенска кутия на изпълнителния директор и преминава всички проверки за удостоверяване, то преминава през традиционните филтри за имейл сигурност и финансовият екип пренасочва плащането към сметката на атакуващия.

За да запазят измамата скрита, атакуващите създават правило за препращане, което безшумно пренасочва отговорите на финансовия екип към външен адрес, прихващайки съобщенията за потвърждение, преди изпълнителният директор да ги види. Накрая, Copilot отново се използва за намиране и изтриване на доказателства за цялата схема много по-бързо, отколкото би позволило ръчното почистване.

Barracuda отбелязва, че тази техника не е уникална за Copilot; всеки AI асистент с достъп до входяща поща представлява същия риск. Изводът за екипите по сигурността е ясен: AI асистентите действат като осведомени вътрешни лица, след като акаунтът е компрометиран, така че наблюдението на AI-активирани акаунти, злоупотребата с правила за входяща поща и аномалната активност на сесиите трябва да стане основна част от стратегията за сигурност на идентичността и имейла.