През по-голямата част от последното десетилетие зловредни уебсайтове за порнографски генеративни фалшификати („deepfake“) са публикували хиляди недоброволни видеоклипове, изобразяващи жени, включително известни личности, политици и обществени фигури, в сексуални ситуации. Сега, в може би най-голямата операция по сваляне на уебсайтове с изрично съдържание от този тип до момента, властите в Ню Йорк са конфискували повече от дузина от тези вредни сайтове.

В понеделник Окръжната прокуратура на Манхатън обяви конфискуването на 12 домейна, за които се твърди, фа са били използвани за „незаконно“ споделяне, публикуване и продажба на deepfake видеоклипове на известни личности. Около 1200 души — предимно жени — са били изобразени в недоброволни сексуални изображения и видеоклипове в уебсайтовете, заявява прокуратурата. Сред тях са инфлуенсъри от социалните мрежи, актьори, активисти, спортисти, музиканти и политици.

„Тези ужасяващи нарушения на неприкосновеността на личния живот следват жертвите в тяхната кариера и личен живот и оказват огромно влияние върху емоционалното и психическото им състояние“, заяви в изявление окръжният прокурор Алвин Браг, призовавайки потенциалните жертви да се свържат с бюрото за борба с киберпрестъпленията към неговата служба. От прокуратурата заявяват, че разследванията за това кои са отговорните лица за уебсайтовете, както и тези, които са качвали вредни видеоклипове на жертвите, продължават.

Конфискациите, извършени съгласно законите за наказателния процес в Ню Йорк, представляват може би едно от най-значимите и широкообхватни действия срещу уебсайтове, хостващи откровени deepfake видеоклипове, откакто технологията се появи за първи път в края на 2017 г. С напредването на технологията за изкуствен интелект се появи цяла сива индустрия от уебсайтове, приложения и ботове: те са проектирани да „събличат“ снимки на жени или да създават графични сексуални видеоклипове с тяхно участие. Изображенията и видеоклиповете стават все по-реалистични и могат да бъдат генерирани за секунди.

Въпреки че deepfake технологията широко се използва и срещу известни и неизвестни жени и момичета — често споделяна в частни групи в социалните мрежи — редица известни личности са говорили за вредите от появата им в такова съдържание и за предизвикателствата при премахването му. Въпреки че законите срещу deepfake се развиват бавно, американският закон „Take It Down Act“ все повече позволява премахването на изображения, като част от закона позволява на правоприлагащите органи да свалят и конфискуват уебсайтове.

Окръжната прокуратура на Манхатън не е обявила публично имената на конфискуваните уебсайтове. Въпреки това, преди съобщението на Браг, WIRED независимо забеляза, че началните страници на няколко от сайтовете бяха заменени с известия за премахване — „THIS DOMAIN HAS BEEN SEIZED“ — в края на миналата седмица, като в момента сайтовете посочват, че са поети под контрол след заповед за конфискация, издадена от Върховния съд на щата Ню Йорк.

„Свалянето на тези сайтове е значителна победа в борбата срещу синтетичните недоброволни интимни изображения (NCII)“, казва Леони Оемиг, изследовател в Института за стратегически диалог (ISD), която изследва екосистемата за създаване на deepfake съдържание. Оемиг заявява, че прилагането на държавните закони показва, че вредното съдържание може да бъде овладяно и че конфискуваните сайтове не изглеждат достъпни дори при използване на VPN за опит за достъп от други локации. „Това показва, че смисленото и координирано прилагане е постижимо дори когато самото регулиране остава фрагментирано в различните юрисдикции.“

Уебсайтовете вероятно са били преглеждани милиони пъти. Много от тях са използвали имена, съдържащи фрази като „sex celebrity“ или са обещавали „real deepfakes“. Те са хоствали фалшиви видеоклипове на някои от най-известните личности в света, като в един от тях се казва, че „лицата на различни актриси се използват за deepfake“.

Видеоклиповете са можели да бъдат с дължина няколко минути и са включвали напълно явни сексуални сцени — често разменяйки лицата на известни личности или обществени фигури в съществуващи порнографски видеоклипове. Архивираните версии на уебсайтовете показват, че някои видеоклипове са били гледани десетки хиляди пъти, като един от уебсайтовете твърди, че е онлайн от 2018 г.

„Повечето видеоклипове бяха под формата на действителни порнографски филми, манипулирани така, че вместо оригиналните актьори да се показват лицата на таргетираните лица“, казва Бенджамин Шулц, водещ изследовател в неправителствената организация American Sunlight Project. Шулц, който документира злоупотребата с deepfake срещу политически фигури и е попаднал на някои от уебсайтовете по време на това изследване, казва, че много видеоклипове изглеждат като повторно публикуване на съдържание, първоначално споделено в уебсайта MrDeepFakes — известна платформа за deepfake, която беше свалена от мрежата, след като нейните създатели бяха разкрити от журналисти.

„В най-малко два от конфискуваните уебсайтове на избрани длъжностни лица бяха предоставени профили, съдържащи тяхното име и длъжност, заедно с мрежа от манипулирани видеоклипове с тяхно участие“, казва Шулц. Чрез скорошни проучвания Шулц посочва, че 56 европейски политици са били споменати или са се появявали на уебсайтовете, включително 16 американски политици и двама от Обединеното кралство.

Въпреки че Оемиг, изследователката от ISD, смята конфискациите за насърчителни, има много други части от deepfake индустрията, които причиняват сериозни вреди. „Ефективната интервенция трябва да насочи усилията си към екосистемата в множество точки, включително инструментите, използвани за създаване на синтетично NCII съдържание, откриването и популяризирането им, хостинг и техническата инфраструктура, която ги поддържа онлайн, както и системите за плащания и партньорски програми, които позволяват на операторите да ги монетизират“, казва Оемиг.