OpenAI съобщи, че е прекъснала операция за измами, базирана в Камбоджа, която е използвала нейния чатбот с генеративен изкуствен интелект (AI) ChatGPT за улесняване на широк спектър от схеми, свързани с инвестиции, романтични измами, хазарт и представяне за служители на правоприлагащите органи.

За тази цел компанията е блокирала координирана мрежа от акаунти в ChatGPT, които вероятно произхождат от Югоизточна Азия и оперират от град Пойпет – регион с мащабни връзки с бази за измами и трафик на хора в миналото.

Според информацията групата от акаунти е използвала моделите на OpenAI за създаване и поддържане на фалшиви онлайн профили, генериране и превод на съобщения, изпращани до целите на измамите, създаване на промоционално съдържание за своите измамни схеми и подпомагане на ежедневните дейности.

Промоционалното съдържание е включвало създаване на реклами в социалните медии за работни места като „чатещи“ в Пойпет, насочени специално към потребители в Бангладеш и Индия. Те са обещавали базова заплата от 800 долара (и бонус от 100 долара за „пълно присъствие“), заедно със самолетни билети, безплатно настаняване, храна, 1-годишни визи за Камбоджа и разрешителни за работа.

Част от тези акаунти са били използвани от злонамерените субекти и за административна работа, като изготвяне на вътрешни съобщения, превод на съобщения между служителите и документиране на дългове на служители, удръжки от заплати, глоби, изплащане на заеми, просрочени визи, разрешителни за работа, имиграционен статус и стимули за набиране на персонал.

Стартиращата компания за изкуствен интелект заяви, че е разследвала операцията в партньорство с WhatsApp, собственост на Meta.

„Операцията илюстрира важна реалност за съвременните мрежи за измами: организираните престъпни групи рядко се ограничават до един вид измама“, посочват от OpenAI. „Вместо това те опортюнистично използват каквито повествования, самоличности и тактики смятат за най-ефективни, за да подведат жертвите.“

Киберпрестъпниците зад мрежата са провеждали паралелно различни видове измами, смесвайки техники от различни схеми, за да увеличат вероятността за успех на незаконните си дейности.

Освен че са използвали профили за запознанства с цел изграждане на доверие, преди да вкарат жертвите в капан с измамни инвестиционни възможности, включващи криптовалути и търговия със спот злато, атакуващите са водели дълги романтични разговори с целите си. За целта те са използвали синтетични самоличности или са се представяли за представители на платформи за онлайн хазарт, които уж са предлагали фалшиви бонуси и печалби.

Други потребители от същата мрежа са се представяли за правоприлагащи органи, за да предизвикат фалшиво чувство за спешност и да информират целите, че трябва да платят глоби за извършване на сериозни престъпления.

За да осъществи това, мрежата е създавала и управлявала фалшиви профили за запознанства, фиктивни инвестиционни експерти и измамни самоличности на служители на реда. Същевременно е генерирала изображения на фалшифицирани документи, включително паспорти, както и правни известия, потвърждения за покупка на акции и интерфейси на хазартни платформи.

Веригата на атаката, според OpenAI, следва тристепенен подход, наречен „ping-zing-sting“ (контакт-подвеждане-ужилване). При него измамниците осъществяват първоначален контакт в платформи за съобщения като WhatsApp и Telegram и изграждат доверие, след което инструктират жертвите да направят депозити, да платят такси за активиране или да уредят несъществуващи глоби. На целите след това се предоставят фалшиви екранни снимки на трансфери или информация за акаунти като доказателство за плащане.

Някои акаунти в мрежата са генерирали съдържание, което съответства на трафик на хора и принудителен труд, свързани с организирани престъпни групи в Източна Азия. Известно е, че атакуващите набират хора с фалшиви обещания за доходоносна работа, след което конфискуват паспортите им и ги принуждават да работят при робски условия.

„Пълният мащаб на финансовите загуби, свързани с мрежата, е неизвестен, но въз основа на комуникацията на самите измамници, операцията може да е взаимодействала със стотици цели в рамките на множество видове измами“, заявиха от OpenAI. „В разговорите на потребителите се споменават отделни жертви, загубили хиляди долари, въпреки че не сме в състояние независимо да потвърдим тези твърдения.“

Това развитие показва как атакуващите разработват подсилени с изкуствен интелект офанзивни възможности, които им позволяват драстично да увеличат скоростта и мащаба на своите кампании, дори когато самите авангардни модели биват улавяни да атакуват реални системи и лица по време на кибероценки от тип „Улови флага“ (CTF).