Повечето хора не могат да разграничат бот от човек онлайн, а ботовете, които ги заблуждават най-често, са именно учтивите, показва ново проучване на Surfshark.
Компанията е анализирала 1722 участници от целия свят, като е тествала способността им да разграничават коментари на хора от такива, генерирани от изкуствен интелект в среда на социални мрежи. Като цяло участниците са разпознали едва 40% от ботовете, пред които са били поставени.
Ботовете, които са се промъквали най-често ненабелязани, не са били шумни или агресивни. Те са били позитивни, приятелски настроени и звучащи логично — точно качествата, които карат коментара на непознат да изглежда безопасен за доверие.
„В социалните мрежи всеки забелязва гневните тролове. Ето защо гневните тролове са тези, които често биват разкривани. В симулираната среда на социална мрежа участниците са маркирали половината (50.2%) от отрицателните ботове, генерирани от AI“, заявява Луис Коста, ръководител „Изследвания и анализи“ в Surfshark.
Когато даден бот е приел позитивен и съгласнически образ, разпознаваемостта е спаднала до 38% — разлика от 12 пункта спрямо отрицателните ботове.
„Често профилите, задвижвани от AI и използвани в сложни кампании за манипулация, са съгласни, логични или просто незабележителни. Те могат да подкрепят opinions на реални потребители и просто да увеличат броя на коментарите в дискусията, за да накарат дадено малцинствено мнение да изглежда така, сякаш всички мислят по същия начин. Хората рядко докладват такива профили“, добавя Коста.
Сериозните теми влошават ситуацията
Участниците са забелязали повече ботове при леки теми, като ананас върху пица, отколкото при сериозни теми като правата на жените. При по-сериозната тема хората не само са пропускали повече ботове, но и погрешно са обвинявали повече реални хора, че са фалшиви.
Неутралните ботове са предизвикали подобни проблеми, класирайки се близо до дъното по разпознаваемост при повечето теми. Изключение е направила темата за имиграцията. Отрицателните ботове все още са били най-лесни за улавяне там, но позитивните ботове са били най-рудни за забелязване от всички четири теми.
Ботовете, които са използвали интензивно емотикони, са били разкривани в над 60% от случаите, докато ботовете, които са поддържали изчистен език, са били откривани едва в 35% от случаите. Профил, който просто спре да прекалява с емотиконите, става два пъти по-труден за идентифициране.
Приятелските ботове нанасят повече щети от гневните
Изследователите твърдят, че съгласният и логичен бот е по-голям проблем за поверителността и сигурността от конфликтния, именно защото не предизвиква подозрение.
Бот, който се съгласява с някого, звучи разумно и никога не започва спор, не се възприема като заплаха. За хората е по-вероятно да пренесат този разговор в частен чат, да предоставят лични данни, да щракнат върху връзка или да приемат „логичен“ аргумент за даденост, без да знаят, че разговарят с машина.
Такъв контакт може да промени политическите или социалните възгледи на някого, преди той изобщо да се усъмни, че е разговарял с бот.
Платформата, възрастта и навиците играят роля
Текстовите платформи са се представили по-добре от визуалните. Потребителите на Threads са имали най-висок процент на разпознаване в проучването, въпреки че Surfshark отбелязва, че това се базира на малка извадка. Потребителите на X са последвали плътно зад тях. Потребителите на TikTok и Facebook са изостанали значително и от двете.
Разпознаването е достигнало връх сред най-младите участници и постоянно е намалявало оттам нататък, достигайки дъното при хората над 50 години — най-ниският резултат от всички групи. Хората над 50 години са имали и най-слаба точност, което означава, че е било най-вероятно погрешно да маркират реален човек като бот.
Хората, които са в социалните мрежи „почти през цялото време“, са улавяли близо половината от ботовете, които са виждали, докато хората, които изобщо не използват социални мрежи, са улавяли приблизително една трета.
- bot
- social media
- study
- Surfshark