Сан Франциско нареди на Meta да спре да „допуска“ реклами с генерирано от ИИ насилие над деца

Градският прокурор на Сан Франциско изпрати официално предупредително писмо (cease-and-desist) до Meta, с което призова компанията да спре да „допуска“ платени реклами, съдържащи генерирано от изкуствен интелект съдържание със сексуално насилие над деца, и поиска обяснение как тези реклами са били публикувани многократно в нейните платформи.

Във вторник изданието WIRED съобщи, че през последните месеци Meta е допуснала над 350 реклами, които трансформират статични снимки на непълнолетни лица — някои от които реални личности, включително член на европейско кралско семейство — в кратки видеоклипове с откровено сексуално съдържание. При кликване тези реклами пренасочват потребителите към изтегляне на приложения за генериране на изображения и видео чрез ИИ, част от които служат за цифрово „събличане“ на хора или създаване на други интимни материали без съгласие.

Рекламите, разкрити от изследователи на Tech Transparency Project (TTP), включват идентични материали, качвани многократно, като общо са достигнали до над 29 000 профила в държави от Европейския съюз. Рекламите, разпространявани във Facebook, Instagram и Threads, са били насочени и към потребители в САЩ, Австралия и Индия. Първоначално WIRED съобщи за серия от 53 реклами в началото на август, но след този доклад в платформите на Meta са били публикувани още над 250 реклами.

„Meta не успя да адресира известен проблем с генерирани от ИИ реклами с откровено сексуално съдържание с деца, като същевременно печели от тях“, заявява градският прокурор на Сан Франциско Дейвид Чиу в изявление за WIRED. „Тези реклами са изключително смущаващи и нанасят реална вреда на деца. Meta твърди, че има нулева толерантност към експлоатацията на деца, но мащабът и повторяемостта на тези проблеми показват, че настоящите мерки са крайно недостатъчни. Това е неприемливо и Meta трябва да предприеме адекватни действия.“

„Никоя компания — особено такава, която твърди, че всички реклами се преглеждат и одобряват преди разпространение, и след това приема заплащане за него — не бива да позволява рекламните ѝ системи да бъдат използвани по този начин“, пише Чиу в четиристраничното писмо, изпратено до юристите на Meta.

Писмото поставя редица въпроси относно функционирането на рекламните политики и системите за безопасност на Meta и настоява правният екип, специалистите по безопасност на децата и рекламният отдел на компанията да проведат „незабавни разговори“ с градската управа. „Тези констатации са особено тревожни, тъй като не изглеждат като изолиран пропуск, който Meta е коригирала след първия сигнал за проблема“, отбелязва Чиу.

От Meta заявиха, че няма „никакви индикации“, че рекламите са били показвани в Сан Франциско, което според тях означава, че случаят е „извън юрисдикцията на градския прокурор“. Въпреки че рекламната библиотека на Meta (Ad Library) съдържа определени данни за публикуваните реклами в САЩ, тя не предоставя разбивка по конкретни градове или щати.

В отговор на твърденията на Meta относно юрисдикцията, говорителят на градската прокуратура Алекс Барет-Шортър коментира пред WIRED, че тъй като „потребителите в Сан Франциско имат достъп до незаконните реклами през онлайн пространствата на Meta“, въпросът е от пряка компетентност на града.

„Намираме отговора на Meta за изумителен. Meta изглежда по-малко загрижена за това дали е виновна за експлоатация на деца, отколкото за това дали Сан Франциско има право да вземе отношение“, посочва Барет-Шортър. „Meta има далеч по-сериозни проблеми за решаване тук от определянето на нашата юрисдикция.“

Преди това Meta съобщи за WIRED, че много от рекламите, идентифицирани от изследователите на TTP, вече са били премахнати преди сигнала — като към момента всички те са свалени поради нарушаване на правилата — и повечето са имали „по-малко от 200 показвания“. „Не толерираме приложения за дигитално събличане (nudify) или каквато и да е форма на експлоатация на деца, независимо дали е реална, или генерирана от ИИ“, заяви по-рано говорител на Meta. Компанията допълни, че „общият рекламен бюджет“ за над 300-те реклами, открити от изследователите, е бил „под 5000 долара“.

В писмото се посочва, че прокуратурата е прегледала много от рекламите, установени от TTP, и се изисква Meta да спре разпространението им, да обясни как те са заобиколили системите за модерация, как се ескалират и докладват сигналите към Националния център за изчезнали и експлоатирани деца (NCMEC), както и да опише мерките срещу рекламодателите и повторните нарушители.

Писмото продължава с констатацията, че разкритията показват „по-широки системни проблеми“ в начина, по който компанията засича потенциално сексуално насилие над деца в рекламите, което поставя „значителни правни въпроси“. „Целта на моята институция не е просто да посочи минали пропуски, а да гарантира, че Meta ще въведе системи, предотвратяващи сексуалната експлоатация на деца чрез платени реклами, и че надеждно ще изпълнява правните си задължения при установяване на подобно съдържание“, пише Чиу.

Данните от изследователите на TTP показват, че в някои случаи Meta не е реагирала на сигнали за злоупотреби повече от седмица, през което време рекламите са били видяни от още стотици потребители. Според TTP и преглед на WIRED в рекламната библиотека на Meta, при първоначалното премахване на част от рекламите те не са били обозначени като съдържащи сексуално насилие над деца. „Мащабът, системният характер и естеството на документираните проблеми показват, че отделните опити за сваляне на съдържание от страна на Meta са крайно недостатъчни“, се казва в писмото, като се изисква отговор от Meta в рамките на 28 дни.

Стандартите на общността и рекламните политики на Meta забраняват сексуалната експлоатация, насилието и голотата с участието на деца, както и експлоатацията и голотата при пълнолетни. Компанията също така забранява промотирането на приложения за събличане (nudify apps). Рекламните стандарти на Meta гласят, че всички реклами се преглеждат за съответствие чрез автоматизирани и понякога ръчни проверки. В миналото компанията е премахвала стотици хиляди реклами за такива приложения.

Въпреки предприетите мерки от страна на Meta, включително съдебни дела срещу базирана в Хонконг компания, свързана с платформи за събличане, и сътрудничество с други технологични компании, изследователите продължават да откриват хиляди реклами, насочващи към вредни приложения със сексуално съдържание и голота. По време на разследването на WIRED бяха идентифицирани стотици реклами за „дигитално събличане“, активно разпространявани в платформите на Meta.

Кейти Пол, директор на TTP, посочва, че Meta „не се справя ефективно“ с проблема и реклами със сексуално насилие над деца продължават да се появяват в платформите ѝ. „Meta твърди, че заема твърда позиция срещу материалите със сексуално насилие над деца, но след публикуването на доклада на TTP на 8 септември се появиха съвсем нови реклами със същите деца, за които бяхме подали сигнал“, казва Пол. Организацията е докладвала рекламите на Meta и NCMEC, като отбелязва, че част от тях вече са премахнати. От Meta не отговориха веднага на въпроса на WIRED относно новите появяващи се реклами.

„Констатациите са категорични“, добавя Пол. „Meta не адресира този проблем ефективно.“

Обновено на 09.09.2026 г. в 18:00 ч. ET: Добавен е допълнителен коментар от градската прокуратура на Сан Франциско.