Центърът за хуманни технологии (Center for Humane Technology), организацията за онлайн безопасност, съоснована от бившия продуктов мениджър на Google Тристан Харис и представена в хитовия документален филм „Социалната дилема“ (The Social Dilemma), съкращава около половината от своите 16 служители, които не са сред основателите, съобщават бивши служители пред WIRED. Организацията прекратява работата си в областта на изследването на политиките и съдебните спорове, за да се фокусира вместо това върху проекти, наречени от нея „ръководени от основателите“.

Напускането на деветимата служители, сред които са изпълнителният директор Джули Гирадо и старши директорът по стратегията Камил Карлтън, идва малко след като центърът постигна поредица от големи победи в съдебната зала срещу компании за социални медии. Съдебните дела се позоваваха на негови изследвания, твърдящи, че платформите са били нарочно проектирани да държат децата приковани към екраните им.

Но наред с този успех, в продължение на години в организацията са се зараждали вътрешни дебати относно нейната посока, според 16 бивши работници, повечето от които говориха с WIRED по-рано тази година при условие за анонимност, тъй като се страхуваха от професионални последици.

Бордът на CHT в крайна сметка прецени, че опитите да се работи едновременно като група за защита на интереси, предвождана от Харис, и като мозъчен център, произвеждащ документи за политики, са изтощили ресурсите на организацията. Занапред организацията ще се фокусира върху инициативи, начело с нейните основатели, включително „публично образование, целеви брифинги и частна координация“, надграждайки техния успех в „достигането до широка аудитория и ангажирането на влиятелни лица, вземащи решения“, обяви бордът миналата седмица.

Функции като подпомагане на съдебни дела и оценка на инструменти с изкуствен интелект ще бъдат премахнати, добави бордът, без да посочва точен брой на съкращенията.

„Този момент на ускорен риск от AI изисква да се фокусираме върху една стратегия и ние избрахме да се съсредоточим върху това, което винаги сме правили най-добре, за да можем да отговорим на предизвикателството на момента“, заяви председателят на борда Премал Шах в изявление за WIRED.

През последните години Харис се присъедини към нарастващия хор от гласове, алармиращи за рисковете, пренасяни от напредналия изкуствен интелект, предупреждавайки за потенциално „превземане от страна на AI“, ако софтуерът убягва от контрол. „Трябва да действаме точно сега, преди да е станало твърде късно“, каза той пред NBC News миналия месец.

Центърът насърчи хората да подпишат голяма петиция за спиране на развитието на AI и помогна за организирането на изслушване в Конгреса относно опасностите от чатботовете. Той също така консултираше относно съдебни дела и разследвания, проучващи лаборатории за AI за техните избори при проектирането, включително текущо дело, заведено срещу OpenAI от родители на тийнейджър, починал чрез самоубийство след взаимодействие с ChatGPT. Харис също така участва в документален филм, пуснат в Netflix миналия месец, „The AI Doc“, който призовава зрителите да поискат Конгресът да се намеси, за да защити обществеността от рисковете на технологията.

Основан през 2017 г., Центърът за хуманни технологии се състезава с утвърдени организации с нестопанска цел и множество нови участници за финансиране и внимание за оформяне на политиката в областта на AI. Кибератаки от AI агенти от OpenAI и други лаборатории възобновиха призивите технологичните разработчици да носят отговорност за грешки в дизайна и инженерството.

С годишен бюджет от приблизително 6 милиона долара и подобна сума в резерви, центърът е финансиран от богати семейства и фондации. Но тъй като той удвоява залога върху Харис, бивши служители се опасяват, че ресурсите могат да бъдат пренасочени от справянето с това, което те смятат за по-спешни притеснения относно въздействието на AI върху демокрацията и гражданските свободи.

Гейл Барнс, която съветваше центъра относно стратегията за социални медии в първите му дни, казва, че бордът изоставя работа, която е трябвало да превърне славата на Харис „в траен натиск“, който би могъл да помогне за улесняване на реална промяна вътре в компаниите.

„Дали това е мъдрост или отстъпление зависи от това дали смятате, че основното ограничение пред AI в момента все още е „хората не са чули аргумента“ или „аргументът няма институционална тежест“. CHT избира първото“, казва Барнс.

Голяма звезда

Харис превъзхожда в създаването на завладяващи звукови откъси и отдавна е постоянно присъствие в медиите, на конференции и на Капитолийския хълм. „Той е блестящ. Той е красноречив“, казва бивш колега от CHT. „Той лесно би могъл да прекара цялата си кариера от тъмната страна. По някаква причина той разбра, че това е объркано.“

Харис съоснова центъра с Аза Раскин, самопровъзгласилия се изобретател на безкрайното скролване, и Ранди Фернандо, който някога е работил в обучението на разработчици в Nvidia. Целта беше да се принудят технологичните компании да поемат повече отговорност за социалните последици от техните продукти, което в ранните дни означаваше да се разглеждат въпроси като това дали те подхранват политическа радикализация или вредят на психическото здраве на тийнейджърите. Езикът, който Харис използваше за описване на тези проблеми, бързо беше приет в Силициевата долина.

Вътрешни документи от Meta, разкрити в съда тази година, показват, че изследователи от компанията са обсъждали да се свържат с Харис още през 2018 г., когато неговите предупреждения, че приложенията са нарочно проектирани да пристрастяват, навлязоха в масовия поток. Неговият национален профил нарасна още повече с пускането на „Социалната дилема“ (The Social Dilemma) в Netflix през 2020 г.

„Трудно е да се омаловажи колко полезен беше „Социалната дилема“ за стартирането на технологичната отчетност“ като област на застъпничество, казва лидер на друга организация с нестопанска цел, който също поиска анонимност, за да защити отношенията си с CHT.

Но вътре в организацията Харис понякога влизаше в сблъсъци с екипа си относно това дали да съсредоточат усилията си върху потребителите, технологичните компании или законодателите, казват бивши служители. Някои колеги се съобщават, че са се frustrирали от често променящите се хрумвания на Харис, описвайки културата на организацията като ненужно „трескава“ и „водеща до лудост“. Шах оспори тази характеристика, но призна, че културата на центъра е бърза, като се има предвид спешността на неговата мисия.

В един момент центърът разработи онлайн курс за технологични работници, които искаха да се научат как да изграждат хуманни системи, и въпреки че той привлече хиляди участници, CHT реши да го спре, тъй като фокусът на Харис се премести към притесненията относно AI, според хора, запознати с проекта. Друга инициатива за създаване на ресурси за преподаватели, които да осмислят проблемите около времето пред екрана, остана на заден план, казват хората. Харис продължаваше да се връща към това центърът да бъде „средство той да говори пред света“, според един бивш служител.

Подкастите и видеоклиповете на центъра с участието на Харис и Раскин са привлекли голяма аудитория, казват бивши работници. Харис също така организира частни срещи с американски законодатели и ръководители в топ технологични компании. Бивши служители описват стратегията на групата като поставяща повече акцент върху активизма от типа „върхове на тревата“ (grasstops) пред по-познатия активизъм от „корените на тревата“ (grassroots), което някои смятат за погрешно.

Шах казва, че CHT вярва, че „масовите комуникации създават натиск от основата, който отключва действия от висшите кръгове“ и че Харис „е един от малкото хора в света, които са поканени и могат да комуникират ефективно с аудиториите на масовите медии от целия политически спектър“.

Някои бивши служители твърдят, че основателите на CHT са имали желание да останат вътрешни хора за Силициевата долина и поради това са изпитвали по-голяма неохота да критикуват компании, в които са работили преди или където са работили техни близки лични контакти. (Шах оспорва тези описания и казва, че CHT „винаги е бил строг към компаниите“.)

Някои бивши служители описват стила на управление на Харис като натоварващ, което според тях е довело до високо текучество. През 2023 г. служителите са се върнали от фирмено извеждане разстроени, след като са били помолени да участват в упражнения за изграждане на доверие, които са сметнали за прекалено лични, според няколко бивши работници. Независимите членове на борда на CHT са се намесили и по-късно Харис е подал оставка като изпълнителен директор, за да стане президент на организацията, според бившите служители.

Шах казва, че текучеството на служители „е произтекло от разлики в анализа на проблемите и подходите за постигане на основната мисия на организацията“. Той също така отрича промяната в ролята на Харис да е била свързана със случилото се по време на фирменото извеждане.

Какавто и смут да е имало вътре в CHT, по-широката стратегия, която Харис е използвал за справяне с технологичните компании, е давала резултат. През 2021 г. главните прокурори на щатите в САЩ започнаха разследвания срещу Meta и по-късно съдиха компанията за това, че твърди се е въвеждала в заблуждение тийнейджъри и родители. Тази година Meta се съгласи да уреди някои от делата за милиарди долари. Съдебни журита, включително едно, което изслуша свидетелски показания от Раскин, поставиха компанията в положение да плати допълнителни санкции в отделни дела. Други платформи за социални медии се съгласиха да уредят подобни съдебни спорове тази година.

В интервю за WIRED по-рано тази година, лидерът на другата технологична неправителствена организация похвали по-малко бляскавата работа на CHT в щатските парламенти и съдебните зали. Отклоняването от нея е „разочароващо“, казва човекът сега. „Промяната идва от движения и демокрация, а не от знаменитости и задкулисни стаи.“

Някои бивши служители казва, че очакват CHT все повече да прилича на това, което те шеговито наричат „Център за подпомагане на Тристан“. Шах казва, че единствената цел на организацията е да гарантира, че „днешните най-значими технологии служат на човечеството“.