Докладът на IBM за цената на изтичането на данни през 2025 г. установи, че 16% от проучените нарушения включват нападатели, използващи инструменти с изкуствен интелект (ИИ), най-често за фишинг или атаки с deepfake персонализация. За екипите по сигурност това има преки последици за центъра за поддръжка (service desk).
Центърът за поддръжка е естествена цел за социално инженерство, тъй като нападател, който убеди служител, че е легитимен потребител, може да не се нуждае от заобикаляне на техническия контрол. Те могат просто да поискат помощ за заобикалянето им. Изкуственият интелект улеснява това, като помага на нападателите да звучат по-достоверно чрез персонализиране на подхода им.
Процесът по въвеждане в работа (onboarding) е особено изложен на риск в среда на заплахи, където ИИ позволява по-убедителни атаки на социално инженерство. Новите служители се нуждаят от бърз достъп, но организацията може все още да не е добре запозната с това кои са те. Нападателите могат да използват тази празнота, така че агентите от поддръжката се нуждаят от по-добри начини за доказване на самоличността, преди да предоставят идентификационни данни, да нулират многофакторна автентификация (MFA) или да одобрят чувствителни промени.
Три начина, по които ИИ помага при атаки срещу центрове за поддръжка- 1. ИИ прави самоличността при impersonation по-убедителна
Широко отразени атаки срещу компании като M&S, MGM Resorts, Clorox и други започнаха с прост въпрос към поддръжката: „Можете ли да ми помогнете да получа достъп?“. Оттам нападателите получиха достъп до акаунти, ескалираха атаките си и струваха на засегнатите организации милиони.
Самозванството отдавна е риск за центровете за поддръжка, а ИИ прави още по-трудно за служителите да преценят дали заявката е истинска. Нападателите вече могат да използват генеративен ИИ, за да създават изпипани имейли, убедителни съобщения в чата и реалистични сценарии за разговори за секунди. При по-целенасочени атаки те могат също да използват генериран от ИИ глас или видео, за да имитират служител.
Въвеждането в работа е особено уязвимо. Новите служители не винаги са известни на ИТ екипите и се очакват проблеми с достъпа през първия ден. Нападател, представящ се за нов служител, може да използва ИИ, за да звучи достоверно, да цитира правилния отдел и да създаде точно толкова спешност, колкото е необходимо за прокарване на заявката.
- 2. ИИ ускорява разузнаването и персонализацията
В интернет има повече лична информация от всякога и ИИ помага на нападателите да я откриват. При защита срещу атаки по време на въвеждане на персонал това е реален проблем. Организациите често споделят повече, отколкото осъзнават – например публикации за добре дошли с име на нов служител или обяви за работа, споменаващи системите, които компанията използва.
Нападателите могат да извлекат тази информация и да използват ИИ за автоматично събиране на данни от LinkedIn, фирмени уебсайтове, обяви за работа, съобщения за медиите и социални мрежи. След това те превръщат тези подробности в достоверна история. Имена, роли, местоположения, отдели, вътрешни инструменти и линии на отчитане могат да бъдат вплетени в сценарий, който звучи надеждно.
- 3. ИИ помага на нападателите да мащабират атаките си
Нападателят вече не трябва да създава кампания за социално инженерство от нулата. Те могат да използват ИИ за създаване на десетки варианти на фишинг имейли, тестване на различни предтексти и адаптиране на формулировката си.
Това създава проблем за центровете за поддръжка, тъй като те са проектирани да реагират бързо. Нападателите знаят това и използват спешност и настойчивост, за да направят зловредната заявка да изглежда като поредната рутинна задача в натоварената опашка. ИИ им позволява да опитват една и съща заявка по различни канали или към различни агенти, докато някой не одобри нулирането или не промени метода за възстановяване.
Атаките с помощта на ИИ са проектирани да изглеждат нормално, така че превенцията не може да разчита на това агентите да вземат перфектни решения под натиск. Специализирани решения като Specops Secure Onboarding помагат за защита на процеса по въвеждане на нови служители, осигурявайки сигурна доставка на пароли и надеждна проверка на самоличността без риск от прихващане на първоначалните данни.