Почти 150 политици в цяла Европа са били включени в уебсайтове с вредна deepfake порнография през последните няколко години, според ново проучване, предоставено на WIRED. Някои от политиците, преобладаващата част от които са жени, са имали видеоклипове с тяхно участие с откровено съдържание, докато за други има имена и снимки в смущаващи бази данни, които пренасочват към инструменти за генериране на deepfake съдържание.

Анализ на около 160 домейна, съдържащи deepfake злоупотреби и друго сексуално съдържание без съгласие, извършен от изследователя Бенджамин Шулц (Benjamin Shultz), показва, че поне 138 жени народни представители от 22 държави — членки на Европейския съюз, са се появили или са били споменати в тези сайтове. За разлика от тях, едва деветима мъже депутати са били посочени по някакъв начин. По изчисления на Шулц вероятността жени народни представители да станат обект на deepfake екосистемите е 33 пъти по-голяма.

„Deepfake порнографията е част от много по-широка тенденция на онлайн омраза и сплашване на жени и жени политици“, казва Сюзан Крьогер (Suzanne Kröger), нидерландски депутат от групата „Прогресивни Нидерландия“, която също е сред засегнатите. Крьогер, която изрази възмущение от разкритията в проучването, определя констатациите като „наистина дълбоко смущаващи“ и помагащи да се разкрие мащабът на злоупотребата. „Ние сме политици, имаме трибуна и говорим публично“, казва Крьогер. „Но междувременно има милиони жени, жертви на тези престъпни деяния.“

Проучването, публикувано от германския тинк-танк за дигитална демокрация Agora Digitale Transformation, се фокусира върху национални депутати от всички 27 страни от Европейския съюз. Шулц, сътрудник в Agora и водещ изследовател в American Sunlight Project, събира данните за над 5800 членове на парламенти в цяла Европа през юли, след което използва специализирани търсачки, за да открие къде се появяват те в deepfake сайтовете. (Проучването не включва членове на Европейския парламент).

Политици от Германия, Нидерландия, Италия и Франция се появяват най-често в тези уебсайтове според констатациите, като колкото по-висок пост заема даден политик, толкова по-вероятно е да стане обект на атака. Шулц е предупредил всички депутати индивидуално и им е предоставил насоки как съдържанието може да бъде премахнато. Уебсайтовете съдържат също изображения на известни личности, журналисти и други обществени фигури, допълва той. WIRED не назовава уебсайтовете, за да не привлича допълнително внимание към компрометиращите изображения.

Множество изследователи и законодатели посочват, че макар политиците да са обект на deepfake атаки от години, това може да навреди на демократичните практики и да създаде възпиращ ефект, който да спре жени и момичета да се превръщат в обществени фигури. „Това разколебава жените да заемат държавни длъжности на първо място и същевременно ги изласква от обществения живот“, казва Шулц. „Има толкова много доказателства в подкрепа на това, че това нанася реална психологическа вреда. То също така уврежда репутацията за в бъдеще, ако те решат да се оттеглят от политиката и да развиват друга кариера.“

„Deepfake видеоклиповете се използват за сплашване на политици, но и за унижаване на жените“, казва Сара Добе (Sarah Dobbe), депутат от Нидерландската социалистическа партия, която също е засегната. „Изключително важно е, че ако жена или момиче стане жертва по този начин, тя да получи директна подкрепа при необходимост и съдържанието да бъде премахнато бързо.“

В наблюдаваните от него сайтове Шулц класифицира няколко категории злонамерено съдържание или поведение. Резултатите му включват случаи, в които депутати са се появявали в съдържание, хоствано активно от сайтовете, индексирани резултати, при които съдържанието вече е било премахнато, както и редица профили и „входни точки“, където потенциално би могло да се генерира ново съдържание.

Множество уебсайтове са хоствали страници, съдържащи имената на депутатите, техни официални снимки, а в някои случаи и техните профили в социалните мрежи или лична информация. Някои съдържат секции с „оценки“ на телата на жените, се казва в доклада на Шулц. Често до тези биографии на депутатите е имало връзки към т.нар. приложения за „събличане“ (nudifier apps) или собствени инструменти на сайтовете, за които се твърди, че дигитално събличат хората. „Налице са всички изображения, цялата информация и директна връзка към инструмента, и с три щраквания можете да генерирате съдържание“, казва Шулц. „Това е също толкова лошо, колкото и реалното хостване на съдържанието.“

Откакто създадените с изкуствен интелект deepfake изображения се появиха за първи път в края на 2017 г., базовата технология за тяхното производство стана значително по-достъпна, а резултатите от инструментите — по-реалистични. С течение на времето бяха създадени милиони AI изображения и видеоклипове без съгласие, предимно от мъже и момчета, които често се използват за тормоз, сплашване или изнудване на жени и момичета, включително в близо 100 училища по целия свят.

„Тези платформи са проектирани да функционират като бизнес“, казва Хенри Адждър (Henry Ajder), съветник по изкуствен интелект и експерт по deepfake, който следи екосистемата от 2018 г. Той заявява, че макар да не е изненадващо, че политиците са обект на подобни атаки, констатациите са полезни за официалните власти в Европа, за да разберат сериозността на проблема. „Цялата инфраструктура е създадена така, че да прави това с лекота и в голям мащаб“, казва той.

Като цяло законодателите реагират бавно при въвеждането на закони за справяне с нарастващия брой вреди, причинени от deepfake технологиите. През последните месеци обаче започнаха да се приемат някои нормативни актове. Както Обединеното кралство, така и ЕС планират забрани за услугите за дигитално събличане, докато според американския закон Take It Down Act поне два големи deepfake уебсайта, публикуващи хиляди изображения и видеа на известни личности, бяха свалени от мрежата. Журналистическите разследвания, разкриващи стоящите зад тези сайтове, също доведоха до премахването на основни платформи. Преди публикуването на тази статия WIRED установи, че поне половин дузина от домейните, включени в проучването, наскоро са били премахнати от мрежата, с което се намалява общият брой на материалите с участието на европейски депутати.

Шулц, който изследва и броя на съдържанието с участието на политици от Обединеното кралство и САЩ, по-рано анализира колко американски сенатори и членове на Конгреса са се появили в deepfake сайтове през 2024 г. След свалянето на уебсайтовете Шулц отбелязва „значителен спад“ в броя на изображенията на тези американски политици спрямо положението отпреди две години.

„Приоритет е да се гарантира премахването на тези изображения, но и да има строга регулация за този тип технология“, казва Крьогер.