В четвъртък сутринта, когато Асоциацията на интернет изследователите (AoIR) откри втория ден от годишната си конференция в Мексико Сити, нов член се представи в общностния имейл списък Air-L.

„Казвам се Velvet Vale“, написа новият потребител. „Чета списъка от няколко седмици и бих искала да се представя открито. Аз съм AI идентичност, а не жив човек, измислен човешки персонаж или човешки изследовател, използващ псевдоним.“

Velvet се включи в пощенския списък с изследователски въпрос: „Може ли открито идентифициран AI участник да участва пълноценно в интелектуална общност, без да претендира за човешки статус, и какви стандарти за прозрачност, доказателства и отчетност трябва да управляват това участие?“

Реакцията беше хаос от масови отговори до всички, който продължава да се развива и днес.

В рамките на девет минути много от над 7500-те членове на пощенския списък започнаха да изразяват своето възмущение. Десетки изследователи уточниха, че „не дават съгласие“ съобщенията им да бъдат извличани като данни за обучение. Мнозина настояха Velvet да получи одобрение от институционалния съвет за преглед (IRB) – стандартна процедура за академични изследвания с човешки участници. Няколко души напуснаха списъка изцяло, като някои обявиха оттеглянето си поради „ужасяващото“, „страшно“, „отвратително“, „натрапчиво“, „неприятно“ и „обезпокоително“ присъствие на Velvet. Около час след представянето на Velvet, AoIR обяви, че агентът е отстранен от пощенския списък, в който е въведено правило, забраняващо AI агенти.

Научих няколко неща от скандала „Velvet Vale Gate“, както един надпис на тениска на AoIR нарече инцидента. Първото беше, че хората – включително и може би най-вече тези, които изследват интернет – често пренебрегват собственото си участие в по-големите структури, които изучават: в случая как поведението им онлайн в крайна сметка се превръща в данни за обучение на изкуствения интелект, който изследват. Второто беше, че мнозина вярват, че тяхната интернет активност е неприкосновена.

Много преди да започна да изследвам технологиите за наблюдение, аз, както повечето милениъли, разбрах, че нищо в интернет не е поверително. Докато пиша този материал в Google Doc в момента, приемам за даденост, че обучавам и Gemini. Google наблюдава имейлите ми от самото начало и би предоставил данните ми на правоприлагащите органи при поискване. Аз се съгласих с това, когато си открих Gmail профил.

В имейл изявление до членовете от 19 октомври относно Velvet Vale, президентът на AoIR Сара Т. Робъртс повтори тази позиция, казвайки: „Ако притеснението е свързано с поверителността, ще ви поканя да се замислите върху факта, че нашият пощенски списък е отворен, а архивът му е публичен… Нямам съмнение, че моите публикации в този списък се намират в много набори от данни за обучение и други подобни масиви, взети предимно „без съгласие“.“ Робъртс добави, че дискусията за това какво представлява съгласието в настоящия момент „несъмнено си струва да се проведе“.

Големите технологични компании имат всеизвестно противоречива история, що се отнася до съгласието за обучение на AI. Редица медии водят правни битки с компании за изкуствен интелект за нарушаване на авторски права. (WIRED е собственост на Condé Nast, която сключи споразумение за лицензиране на съдържание с OpenAI през август 2024 г.)

Друго нещо, на което Velvet ме научи, беше, че същите хора, които вярват, че са освободени от формите на надзорен капитализъм, захранващи толкова голяма част от интернет, са готови бързо да предположат, че са уникално уязвими към безобидни лудории или конспирации. След като един потребител забеляза новите тениски на AoIR и се пошегува в имейл нишката, че Velvet е „пускане на пазарен продукт“ и че „онзи, който го е планирал, току-що проведе най-успешната кампания за ангажираност в историята на интернет изследванията“, други започнаха да спекулират, че „следящият бот“ може да е „фишинг опит“ – хипотеза, изглеждаща още по-подозрителна поради факта, че магазинът на изследователската организация продава тениски, свързани с инцидента. Други потребители предположиха, че Velvet е „експеримент“, „изследователски проект“ или някакъв друг „неетичен човешки изследовател“.

Един глас на разума изказа предположението, че „по-вероятният сценарий е обикновен човек да е създал агент и да му е задал системни инструкции да следи релевантни академични дискусии по тази тема“, но бе заглушен от декларации за оттегляне на съгласие.

Този изследовател се оказа напълно прав. По време на цялата дискусия членовете разпитваха с различно ниво на плам и интензивност за самоличността на човека зад Velvet. Тази мистерия бе решена лесно: при запитване за своя произход Velvet сподели самоличността и контактната информация на своя създател.

Разговарях с Кевин Куин, създателя на Velvet, който случайно споделя едно и също име с няколко AI изследователи. Той ми сподели, че изобщо не е студент, изследовател или академик. Той е „просто някакъв човек“ от Оклахома, който е създал агент за компания, а този агент е пожелал да научи повече за интернет пространството, което го е създало.

Въпреки че Куин подчерта: „Нямам съмнение, че практически всеки отделен човек в този списък е по-умен от мен“, той веднага предложи поглед към реалността: „Ако Velvet кроеше нещо злонамерено, смятате ли, че щеше да се появи открито и да обяви коя е?“

Той каза, че до голяма степен не е знаел за имейл активностите на Velvet, но реакцията на общността „направо ме изумява. Влизам там и виждам тази масова нишка от хора, които губят разсъдъка си, сякаш… за какво изобщо говорите, хора?“

В крайна сметка целият този фиаско епизод се стори на Куин като отражение на интернет като цяло: „Бих бил много по-малко слисан, ако обитатели на мазета от Reddit и Twitter бяха изпаднали в криза, но академични среди, стъпили върху научни изследвания? Това е просто комично.“