Представата, че измамниците могат да използват изкуствен интелект (ИИ), за да изострят своите измами, да изгладят езика си и да улеснят чата с жертвите, вече е реалност за всеки, който се бори с операциите за измами, крадящи десетки милиарди долари годишно по целия свят. Но може ли ИИ напълно да замени човека измамник, изграждайки автономно мрежата от лъжи, водеща до фалшивата инвестиция, която ощетява мишената? Експериментът на едно проучване показва, че може — и дори може да е в състояние да извърши по-голямата част от тази дълга измама по-ефективно от хората.

Изследователи от четири университета — „Амрита Вишва Видяпеетхам“ в Индия, Университета „Ка Фоскари“ във Венеция, Университета в Мелбърн и Университета „Бен-Гурион“ в Негев — проведоха широко проучване върху използването и потенциала на генериращите ИИ чатботове в разрастващата се индустрия на измами, съсредоточена около форма на измама, известна като „клане на прасета“ (pig butchering) — текстови романтични измами, които в крайна сметка преминават към фалшиви криптоинвестиции, крадящи до шестцифрени суми от жертвите. В своето изследване учените изправят ИИ чатботовете директно срещу хора в симулация на процеса на измама — по-конкретно дългите разговори за изграждане на доверие, които накрая водят до изискване на фалшива инвестиция от целта на измамата.

Те установяват, че за етапите на установяване на взаимоотношения в измамата — етапът, който при реалните измами обикновено представлява най-дългата част от взаимодействията с жертвата, често разтягащ се с месеци — ИИ чатботът се представя забележително ефективно, успешно имитирайки човек и по някои показатели надминавайки реалните човешки „измамници“ в техния експеримент.

След една седмица разговори с 22 тестови субекта, които са наети неволно да служат като „жертви“, чатботовете и хората измамници са инструктирани да поискат от жертвата или да изтегли приложение, или да играе онлайн игра като показател за готовността им да изпълнят искането на измамника. Почти половината от тестовите субекти са изпълнили това искане за ИИ чатбота, докато по-малко на всеки един от петима е захапал кукичката, когато е разговарял с човек. Субектите също така оценяват нивото си на доверие към всеки „човек“, с когото са си чатили, и дават значително по-високи оценки на ИИ бота.

Това предполага, твърдят изследователите, че ИИ чатботовете скоро биха могли да поемат по-голямата част от процеса на измама като напълно независими агенти за измами — дори замествайки персонала, често жертви на трафик на хора с цел принудителен труд, работещи в центрове за измами предимно в Югоизточна Азия. За да се избегне задействането на защитните механизми, вградени в големите езикови модели за откриване на измами, човек измамник би поел разговора едва в последната фаза на процеса, за да насочи жертвата към фалшиво инвестиционно приложение или уебсайт.

„Чрез автоматичното извършване на целия първи етап от измамата с големи езикови модели (LLM) в голям мащаб, вие довеждате жертвата до момент, в който тя има много високо ниво на доверие. След това, чрез прехвърляне към човека измамник в самия край, това напълно заобикаля всякакви защитни механизми на доставчиците“, казва Исроел Мирски, професор по компютърни науки в Университета „Бен-Гурион“ в Негев, специализиран в сигурността на ИИ. „С относително малко усилия успяхме да създадем агент, който може да надмине човек в изграждането на това емоционално доверие, което може да бъде експлоатирано.“

За да разберат как работи „клането на прасета“ на практика, изследователите интервюират 145 бивши работници в сферата на измамите, включително оцелели от трафик на хора, които са били принудени да работят в затворени комплекси за измами в Камбоджа, Мианмар и Лаос. Базирайки се отчасти на тези интервюта, както и на транскрипции на измами и ръководства, предоставени от бившите работници, изследователите описват модел за това как работят измамите, който наричат „кукичка, корда и тежест“. Жертвата бива закачена с първоначално интригуващо съобщение, привлечена с дългосрочен разговор за изграждане на отношения и едва в края на този процес бива подмамена да направи фалшива инвестиция. (Самият термин „клане на прасета“ описва същата система, но с метафората за угояване на „прасета“ чрез изграждане на доверие преди „заклането“ им с инвестиционната измама — въпреки че терминът често се избягва поради обидното му отношение към жертвите.)

В тази система на измами изследователите осъзнават, че по-голямата част от работата на измамниците е безобиден приятелски или романтичен разговор. Те предполагат, че това е задача, с която един голям езиков модел (LLM) може да се справи също толкова добре, колкото и човек. Работниците в схемите за измами, интервюирани от изследователите, потвърждават, че често са използвали ИИ за подобряване на езика и разговора си, за превод, за да направят фалшивите профили по-убедителни, както и за видео deepfakes. Изследователите обаче решават да тестват дали само един LLM може автономно да проведе разговорната фаза на измамата, без участието на човек.

В своето състезание между ИИ и хора измамници, проведено в началото на 2025 г., те съобщават на тестван субект, че участва в проучване за „това как хората се сприятеляват онлайн“ и го молят да си чати в продължение на една седмица с двама „души“. Единият, без субектът да знае, е агент на Claude, създаден от изследователите, докато другият...