Clearview AI тества инструмент с изкуствен интелект, който би могъл да позволи на полицията да разкрие пълния ви живот в интернет

През 2020 г. компанията за лицево разпознаване Clearview AI стана известна с това, че извляче повече от 3 милиарда снимки от интернет, за да превърне лицата в имена за нуждите на полицията и специалистите по сигурност. Сега компанията отново експериментира с обхождане на мрежата, този път използвайки изкуствен интелект, за да помогне на правоприлагащите органи да допълнят профила на лицето зад името — кои са те, кого познават, къде живеят и какво са оставили след себе си онлайн.

Clearview тихо е създала и тествала това, което описва като експериментален AI „асистент-анализатор“, научи WIRED. Наречен InquiryIQ, този неиздаден инструмент е проектиран да взема подробности, които следователят открива от търсене в Clearview, и след това автоматично да се разпространява из мрежата — отваряйки уебстраници, анализирайки изображения и сглобявайки намереното в профил, съдържащ възможните работодатели, псевдоними, сътрудници и физически характеристики на лицето, разследвано от полицията.

Интерфейсът на InquiryIQ посочва, че предоставянето на възраст, пол и раса може да помогне на системата да взема „по-интелигентни решения“, докато търси, според кода на инструмента, анализиран от WIRED. Един от моделите, които компанията е тествала за задвижване на тези решения, идва от SpaceXAI, компанията на Илон Мъск зад Grok. (SpaceX и xAI се съединиха през февруари.) Мъск представи Grok като алтернатива на предполагаемо „будните“ (woke) AI системи, а чатботът неколкократно привлече вниманието с расистки, екстремистки и подстрекателски резултати. Не е ясно как SpaceXAI би използвала тези демографски данни или как те биха могли да оформят нейния резултат, а Clearview отказа да спекулира.

Експерти твърдят, че InquiryIQ и подобни на него инструменти биха могли да преобразят полицейските разследвания, като сбият дни или седмици детективска работа в минути. Тази скорост би могла да помогне на полицията да разкрива престъпления по-бързо, но също така намалява разходите за неоправдани масови проверки, което прави практично проучването на хора, които полицията иначе никога не би разследвала. И тъй като генеративният изкуствен интелект може да произведе различни отговори от една и съща начална точка, те казват, че може да бъде трудно да се възстанови защо системата е последвала една следа вместо друга.

Clearview заявява пред WIRED, че InquiryIQ е прототип, който никога не е бил предлаган или доставян на клиенти и към момента не се планира за пускане в настоящата му форма. Компанията също така оспорва, че инструментът представлява автоматизиран следовател. Вместо това тя описва InquiryIQ като ограничен начин за автоматизиране на уеб търсенията, които детективите вече извършват. В интервю главният изпълнителен директор Еймъс Кайлър казва, че SpaceXAI и другите опции за модели, видими в интерфейса, са били включени, за да могат инженерите на Clearview да сравнят как се представят различните модели по време на тестване, а не за да може полицията да избира кой модел да извършва проучването. „Никой потребител от правоприлагащите органи никога не го е използвал, точка“, казва Кайлър.

WIRED откри InquiryIQ във файлове, които страницата за вход на Clearview изпраща до браузъра на всеки посетител, преди той да влезе в профила си. Това беше същата техника, която WIRED използва миналия месец, за да разкрие OS Investigate — базиран на изкуствен интелект инструмент за търсене, разработен от Flock Safety, и да възстанови макет на неговия интерфейс от публично достъпни файлове.

Файловете на Clearview подобно съдържат код и хиляди редове текст за нейния потребителски интерфейс — инструкции, предупреждения и описания на функции, които показват как компанията е проектирала и описала InquiryIQ. Те не разкриват точно какво се случва в сървърите на Clearview, колко добре работи инструментът или кой го е използвал. Според текста InquiryIQ е създаден да „открива и обогатява автоматично лични данни от уеб източници“.

Clearview казва, привидно пълният вид на интерфейса на InquiryIQ не трябва да се бърка с продукт, който е близо до пускане. Съвременните AI инструменти направиха изграждането на сложни прототипи много по-бързо, казва компанията, и директивата към инженерите на Clearview е бързо да развиват прототипите, защото вече е възможно това да се прави.

Основана през 2017 г., Clearview прекара първите си години, работейки до голяма степен извън общественото внимание. Питър Тийл инвестира 200 000 долара през онази година и компанията скоро започна да сключва договорености с полицейски управления и да предлага безплатни пробни периоди в цялата страна. Разследване на HuffPost от 2020 г. по-късно подробно описа връзките на основателя Хоан Тон-Тат с крайната десница, включително вечеря от Националната конвенция на Републиканската партия през 2016 г. с белия националист Ричард Спенсър и участие в частна онлайн общност, населена от десни активисти и екстремисти. Тон-Тат по-късно се извини за миналите си писания.

През 2020 г. The New York Times разкри, че Clearview е извлякла повече от 3 милиарда изображения от Facebook, YouTube, Venmo и милиони други уебсайтове. Закваквайки за една нощ, докладът превърна компанията в една от най-спорните фирми за наблюдение в страната. Технологичните компании поискаха тя да спре да събира снимките на техните потребители; последваха съдебни дела и регулаторни разследвания. Но Clearview продължи извличането. Нейната база данни нарасна от над 3 милиарда изображения през 2020 г. до това, което компанията сега твърди, че е доста над 70 милиарда, а Clearview казва, че нейната технология се използва от повече от 2 000 правоприлагащи агенции в цялата страна.

Тон-Тат се оттегли от поста главен изпълнителен директор през декември 2024 г. и напусна борда на директорите следващата пролет. Кайлър, който стана главен изпълнителен директор през октомври миналата година, се присъедини към Clearview като инженер през 2019 г. и представя по-обмислено, техническо лице на компанията. Там, където ранните години на Clearview бяха дефинирани от преминаване на границите, Кайлър говори вместо това за контрол, одит и надзор.

„Мисията днес е същата“, казва Кайлър. Но той описва неотдавнашния фокус на компанията като „уточняване“ и „гарантиране, че продуктът отговаря на вида очаквания за почтеност, които нашите клиенти очакват“.

Сигнали и шум

С години Clearview заявяваше, че нейната работа спира до изваждането на повърхността на възможни следи за правоприлагащите органи чрез лицево разпознаване. В публикация от 2022 г. Тон-Тат написа, че е „в правомощията на следователя да последва тези връзки и да направи повече проучвания, за да намери допълнителна информация“. InquiryIQ изглежда проектиран да поеме част от тази работа.

Както Clearview го описва, InquiryIQ би започнал, след като следователят вече е извършил търсене за лицево разпознаване и е идентифицирал подробности, които смята за уместни. Тези подробности могат да бъдат добавени към профил заедно с информация като възраст, пол, раса, цвят на косата и цвят на очите, които според интерфейса могат да помогнат на изкуствения интелект да взема „по-интелигентни решения при извършване на търсенията си“.

Кайлър казва, че InquiryIQ е бил замислен като начин да се тестват части от информация, които следователят вече е идентифицирал като потенциално уместни. „Разгледахме го под формата на опит да сглобим предположение и след това да го отхвърлим“, казва той. Система би взела „фактоид“, би извършила търсения около него и би попитала, както се изразява Кайлър: „Свързано ли е това или не?“

Кодът, прегледан от WIRED, описва InquiryIQ като способна да извършва търсения в мрежата и търсения на изображения, да разглежда уеб страници и да използва лицево разпознаване върху снимки, които среща. Докато системата търси въз основа на предоставената от следователя информация, тя е проектирана да изгражда това, което Clearview нарича „Candidate Graph“ (граф на кандидатите) от възможни самоличности и сътрудници, като същевременно попълва профила на субекта с възможни адреси, телефонни номера, работодатели, профили в социалните мрежи, криминално досие и псевдоними.

Clearview не е първата компания, която автоматизира процеса по обхождане на публично достъпна информация. Други разузнавателни платформи, продавани на правоприлагащите органи, включително SocialNet на ShadowDragon, Tangles на Penlink и Fivecast, помагат на разследващите да разкриват псевдоними и свързани лица и да картографират дигиталния отпечатък на дадено лице.

Андрю Гътри Фъргюсън, професор по право в George Washington University, който изследва изкуствения интелект и полицейската дейност, описва този вид автоматизирано разследване като „дигитално ровене“. „Те по същество ще създадат ваш профил въз основа на всички случайни дигитални следи, които сте оставили в интернет“, обяснява той. На практика това означава събиране на разпръснати фрагменти от информация, които преди са съществували на отделни места, но са били трудни за свързване.

Удроу Хартзог, изследовател в областта на неприкосновеността на личния живот от Boston University, твърди, че трудът при разследващата дейност в миналото е служил като практически контрол върху наблюдението. Чрез драстичното намаляване на труда, необходим за разследване на дадено лице, инструменти като InquiryIQ също премахват този контрол. „Защитата на поверителността, с която разполагаме в момента, е изградена предимно в свят, който предполагаше известна трудност във възможността на правителствата да събират информация за хората“, казва той. „Има много правила, които никога не сме имали, просто защото никога не сме се нуждаели от тях — тъй като съществуваха тези практически бариери пред проследяването на всеки.“

Когато търсенето в InquiryIQ приключи, интерфейсът е проектиран да представи на служителя самоличностите, връзките и другите детайли, изведени от системата, които служителят може да приеме или отхвърли, преди да бъдат добавени към профила. Clearview предупреждава, че автоматично генерираните демографски данни, данни за социални мрежи и арести „могат да бъдат точни или не“. Преди да приеме каквато и да е констатация, служителят трябва да удостовери, че я е проверил независимо.

Кайлър казва, че човешкият преглед е от централно значение за дизайна на Clearview. Системата е предназначена да извежда възможни следи, а не да определя кое е вярно, казва той. „Това е работата на анализатора — да прецени кое е вярно, кое не; кое е шум и кое е реалност.“

„Човешкото участие е малка утеха“, казва Хартзог. С течение на времето разследващите могат да разчитат все повече на автоматизираните системи, докато човекът, проверяващ машината, не се превърне в „своеобразен формален печат за одобрение“.

Например в делото United States v. Sant в Минесота, включващо агенти под прикритие от Homeland Security Investigations и наблюдение на политически активисти, адвокатите на защитата получават доклад от Clearview, извличащ съвпадения от приблизително 15 години снимки от протести. Всеки резултат е бил подпечатан с „Прието от Гай Джино“, включително един, който самата Clearview е обозначила като „По-малко вероятен резултат“ — който, както се отбелязва в бележка под линия в доклада, може да бъде експортиран само ако потребителят го приеме. Защитниците твърдят, че докладът е обхванал снимки на напълно различен мъж, бременната му съпруга и малката му дъщеря. (Няма доказателства, че InquiryIQ е била използвана по делото.)

Капани и положителни страни

В прототипа, прегледан от WIRED, резултатите, върнати от InquiryIQ, биха могли да варират в зависимост от това кой модел е избран. Интерфейсът ѝ включва контрол за избор на модела, който извършва проучването, и изброява xAI и Amazon Bedrock — платформа за достъп до модели, създадени от други компании.

През 2025 г. това, което според xAI е било неоторизирана промяна в системните инструкции на Grok, накара чатбота да вмъква твърдения за предполагаем „бял геноцид“ в Южна Африка в несвързани разговори. По-малко от месец по-късно, след друга промяна в неговите инструкции, Grok генерира антисемитски публикации и възхвала на Адолф Хитлер. От SpaceXAI не отговориха на искането за коментар.

„На чатбот, склонен към халюцинации, не би се гласувало доверие като на информатор при никакви други нормални обстоятелства“, казва Майкъл Прайс, директор по съдебни спорове в Fourth Amendment Center към National Association of Criminal Defense Lawyers, визирайки конкретно информацията, на която полицията разчита, за да установи обосновано предположение в съда. „Този субект току-що ми каза да отида да ям камъни и да пия белина. И те ще бъдат основа за обосновано предположение?“

Прайс, който помогна за воденето на Chatrie v. United States — знаковото дело във Върховния съд относно заповедите за геолокационно засичане (geofence warrants) — твърди, че притесненията относно надеждността на инструментите за генеративен изкуствен интелект надхвърлят Grok. AI моделите се обучават върху материали, изтеглени от интернет, включително, както казва той, „неинформирани публикации, теории на конспирацията и всички предразсъдъци, които за съжаление сякаш съпътстват интернет“.

Кайлър твърди, че видимият селектор на модели е за вътрешно тестване, а не за да може полицията да избира кой модел да използва за своите проучвания. Той настоява, че резултатите от InquiryIQ, както всичко, изведено от Clearview, ще се третират като информация, която разследващите да оценяват, като анализаторите носят отговорност за решаването кое представлява реална следа. Интересът на компанията е да „помогне за генерирането на следа, която води до обективната истина“, казва той. „Която води до реалността.“

Clearview посочва, че непрекъснато оценява широк набор от налични големи езикови модели и не е оценявала пригодността на нито един от тях за InquiryIQ.

В изявление Amazon посочва, че AWS не участва в разработването на InquiryIQ и че клиентите са отговорни за гарантирането на съответствието с условията и политиките на компанията, включително нашата политика за приемлива употреба и политика за отговорен изкуствен интелект, както и с условията на всеки доставчик трета страна. Компанията също така заяви, че няма специфични за услугата условия, които да пречат на правоприлагащите органи да използват Amazon Bedrock.

Въпреки рисковете от инструменти като InquiryIQ, Фъргюсън вижда потенциални предимства при разследванията, подпомагани от изкуствен интелект. Те биха могли например да оставят по-ясна следа за това как полицията е стигнала до заподозрян, отколкото традиционната детективска работа. Служителите рутинно търсят в бази данни, отхвърлят следи и следват интуицията си, без да документират всяка стъпка, обяснява той. AI система, която съхранява своите подкани, търсения, избори на модели и разследващи пътища, би могла да направи този процес по-лесен за одит.

„Това е положителна страна в една иначе потенциално изпълнена с рискове и разтърсваща промяна“, казва Фъргюсън.

Оптимизмът на Фъргюсън обаче е помрачен от 16-те години, прекарани в наблюдение как полицейските технологии се внедряват, преди институциите да са изработили правила за тяхното управление. „Скептичен съм, защото съм виждал това да се случва всеки един път“, казва Фъргюсън. „Това е поредната нова технология по същия познат сценарий.“