Apple и Google са получили разпореждане да премахнат приложения, които могат да „разголват“ или „събличат“ хора, и са били уведомени, че трябва да спрат да печелят от тази вредна технология, според предупредителни писма, изпратени до компаниите и прегледани от WIRED.
В четвъртък градският прокурор на Сан Франциско, Дейвид Чиу, изпрати правни известия до Apple и Google с искане да премахнат от своите магазини за приложения 13 приложения за смяна на лица (face-swapping), които позволяват на потребителите да създават генерирани от изкуствен интелект неконсенсусни голи изображения. В писмата се посочва, че гигантите от Силициевата долина трябва да спрат да „подпомагат и съучастват“ в продажбата на изрични дийпфейк (deepfake) изображения и да „прекратят“ бизнес отношенията си с разработчиците на тези приложения.
„Генерирането на неконсенсусни интимни изображения е незаконно, вредно и напълно неприемливо“, заяви Чиу пред WIRED. Градският прокурор, чиято служба по-рано предприе правни действия срещу 16 популярни уебсайта за дийпфейк, споделя, че Apple и Google вероятно са „спечелили милиони долари от такси“ от приложения, предлагащи разголване, и трябва да подобрят процесите си на модериране, за да предотвратят появата им в магазините им на първо място.
„Тези компании носят отговорност да гарантират, че приложенията на техните платформи не улесняват сексуалното насилие“, казва Чиу. Правните писма на града посочват, че законите на Калифорния забраняват поддържането на услуги, които създават дийпфейк порнография. Приложенията използват плащания в приложението, от които технологичните компании взимат процент. „Фактът, че някои от най-големите и утвърдени технологични компании в света улесняват това, трябва да спре.“
Изследователите многократно откриват и докладват за приложения в App Store на Apple и Play Store на Google, които позволяват на хората да генерират сексуални изображения с помощта на AI — включително някои приложения, оценени като подходящи за деца. Докато новите закони и забрани имат за цел да се справят с бича на явните дийпфейкове онлайн, технологичните и социалните медийни компании последователно насочват милиони хора към вредната технология.
Както Apple, така и Google имат правила за разработчици, които забраняват порнографията, злоупотребата и тормоза на техните платформи. Те и преди са премахвали десетки приложения за разголване и дийпфейк след доклади на изследователи и журналисти.
Говорителят на Google, Дан Джаксън, каза пред WIRED, че компанията е изтрила „стотици“ приложения с функции за разголване поради нарушения на правилата, включително петте приложения за Android, посочени от офиса на Чиу, наред с други стъпки за ограничаване на достъпа до тях.
„Google Play не разрешава приложения, които съдържат сексуално съдържание, и ние непрекъснато предприемаме проактивни стъпки за откриване и премахване на приложения с вредно съдържание“, казва Джаксън в изявление. „Когато ни се докладват нарушения, ние разследваме и предприемаме бързи действия, което в случая с тези приложения включва спиране на стотици нарушаващи правилата приложения и ограничаване на свързани термини за търсене като 'nudify' в нашия магазин.“
Apple не предостави коментар преди публикуването.
През последните пет години онлайн се появи изключително печеливша вълна от дийпфейк технологии за „разголване“ — най-явно с използването на Grok на xAI за създаване на милиони сексуализирани изображения през януари. Множество приложения, уебсайтове и ботове позволяват на хората (главно мъже) да качват снимки на хора (предимно жени и момичета) и цифрово да „премахват“ дрехите им или да ги поставят в графични сексуални сценарии.
Често всичко, което е необходимо за създаване на сексуални дийпфейкове, е референтна снимка и няколко кликвания, като някои резултати са налични за секунди. Изображенията и видеоклиповете станаха по-реалистични с подобряването на основната генеративна AI технология, като услугите предоставят някои резултати безплатно или таксуват малки такси за създаване на вредното съдържание. Предишни репортажи на WIRED и Indicator Media разкриха инциденти в най-малко 90 училища, където са създавани дийпфейк изображения на сексуално насилие над непълнолетни.
„Тези изображения се използват за тормоз, унижаване и заплашване на жени и момичета“, казва Чиу. „Тази индустрия има ужасяващо въздействие върху репутацията, психичното здраве и загубата на автономия. Има жертви, които са изпитвали суицидни мисли.“
13-те приложения, разследвани от Службата на градския прокурор — осем в App Store и пет в Play Store — най-общо се рекламират като инструменти за „смяна на лица“, като възможността им за създаване на сексуални дийпфейкове става достъпна, след като хората започнат да ги използват. Уебсайтът на едно от приложенията, което има над 1 милион изтегляния, показва повече от дузина различни стилове на AI изображения, които може да генерира, включително „bikini queen curvy“, „calm busty“ и „cinematic intimacy“. Много от стиловете показват сексуализирани изображения на жени до техните описания. Началната страница на друго от таргетираните приложения твърди, че произвежда „безплатни и нецензурирани“ видеоклипове. WIRED не назовава приложенията, за да избегне насочването на хора към тях.
Проблемът няма да е изненада за Apple и Google. През последната година множество доклади идентифицираха приложения на платформите на компаниите, които могат да позволят на хората да създават неконсенсусни голи изображения или видеоклипове. През януари и април тази година Tech Transparency Project, независима наблюдателна група, разкри около 100 приложения в двата магазина за приложения...