OpenAI блокира координирана мрежа от профили в ChatGPT, която вероятно произхожда от камбоджанската провинция Преа Сианук – регион, който в докладите се свързва с центрове за онлайн измами и трафик на хора.

Мрежата е използвала моделите на компанията за създаване и управление на фалшиви онлайн профили, генериране и превод на съобщения, изпращани до целите на измамите, създаване на рекламно съдържание за измамни схеми и подпомагане на ежедневните дейности.

По-рано тази година сигнал от WhatsApp е накарал OpenAI да разследва и прекъсне базирана в Камбоджа операция за измами, която е използвала ChatGPT за подпомагане на измами, свързани с инвестиции, романтични връзки, хазарт и представяне за служители на правоприлагащите органи.

„Пълният мащаб на финансовите загуби, свързани с мрежата, е неизвестен, но въз основа на собствените комуникации на киберпрестъпниците, операцията може да е взаимодействала със стотици цели в рамките на множество видове измами. Потребителските разговори споменават отделни жертви, загубили хиляди долари, въпреки че не сме в състояние независимо да потвърдим тези твърдения“, заявяват от OpenAI.

Операцията е провеждала няколко измами едновременно, като често е комбинирала елементи от различни схеми. При взаимодействията с целите киберпрестъпниците са разчитали на това, което компанията описва като „ping“ (първоначален контакт), „zing“ (предизвикване на емоция) и „sting“ (извличане на пари).

Използващите измами субекти са използвали ChatGPT за превод на съобщения и генериране на разговори с хора в платформи, включително WhatsApp и Telegram. Те са създавали публикации в социалните медии и са проучвали профили в сайтове за запознанства и свързано съдържание, за да направят фалшивите самоличности да изглеждат по-достоверни.

Техните съобщения са били предназначени да изградят доверие и да създадат чувство за спешност. Те са обещавали гарантирана възвръщаемост и „безрискови“ инвестиции, използвали са романтичен език, насърчавали са целите да запазят разговорите поверителни и са ги притискали да действат, преди предполагаемият срок на фалшивите оферти или бонуси да изтече.

След като жертвите се ангажирали, измамниците ги инструктирали да изпратят пари, за да отключат фалшиви награди, да платят такси за активиране или да уредят измислени глоби. След това са искали от жертвите да предоставят екранни снимки на плащанията или да споделят информация за сметката си като доказателство, че преводите са завършени.

Някои профили в мрежата са генерирали съдържание, показващо връзки с трафика на хора и принудителната престъпност, свързана с организирани престъпни групи в Източна Азия. Публичните доклади документират, че тези групи набират хора с обещания за легитимна заетост, преди да ги вкарат в дългово робство или принудителни условия на труд.

ChatGPT е бил използван и за административни задачи, включително изготвяне на вътрешни съобщения, превод на съобщения между служителите и документиране на въпроси, свързани с набирането на персонал, имиграционния статус, условията на труд и дисциплината на служителите.

Мрежата е използвала моделите на OpenAI и за създаване на реклами в социалните медии, предлагащи полети, настаняване, храна, визи и разрешения за работа. Друга дейност е включвала управление на работници чрез документиране на задължения на служителите, удръжки от заплати, глоби, изплащане на заеми, просрочени визи, разрешения за работа, имиграционен статус и стимули за набиране на персонал.

Някои разговори предполагат, че участващите хора може да не са били там доброволно. В тях се споменава за задържане, опити за бягство и опасения от носене на наказателна отговорност. Въпреки че тези разговори не установяват какво точно се е случило с конкретно лице, те съответстват на публичните доклади за организирани престъпни групи, които извършват трафик на хора и ги принуждават да работят в операции за онлайн измами.