През четирите десетилетия на изследване на ефектите от взаимодействието с компютри Шери Търкъл си изгражда репутацията на внимателен, макар и критичен социален учен, който подхожда към работата си с академична строгост и дистанция.

Новата ѝ книга „Изкуствена интимност: Кои ставаме, когато говорим с машини“ (Artificial Intimacy: Who We Become When We Talk to Machines) разбива този модел. Тя представлява полемично предупреждение, че сме достигнали извънредно положение, в което нашата човечност е изложена на риск от прекомерното разчитане на бездушни машини, представящи се за наши учители, ментори, приятели, колеги и любовници. Търкъл се стреми към високата летва на книги като „Тиха пролет“, „Джунглата“, „Несигурни при всякаква скорост“, които събуждат обществеността за предстоящи кризи.

По същество тази дребна на ръст професорка от MIT се изправя срещу индустрия за трилиони долари, подкрепяна от правителство, решено да ускори навлизането на изкуствения интелект във всяко кътче от личния и професионалния ни живот.

СТИВЪН ЛЕВИ: Предишните ви книги представяха резултатите от вашите изследвания като социален учен, като често водеха до тревожни заключения за това как хората, особено децата, взаимодействат с компютрите. Но тази книга звучи така, сякаш чупите стъклото и дърпате пожарната аларма. Защо се стигна до тази промяна?

ШЕРИ ТЪРКЪЛ: Както при всички мои книги, започнах с любопитство. Но след около 10 интервюта, проведени по време на пандемията, неутралното любопитство вече не беше моето състояние на духа. Това беше ужасно! Виждах хора по време на пандемията, техните семейства страдат, търсят контакт с тях, а те ми говорят за това как всъщност просто искат да прекарват време с чатбота си. Когато успях да интервюирам хора лице в лице, останах крайно обезпокоена. Хората не искат да предприемат нищо в политиката, защото просто искат да живеят в света на чатботовете. Така че посланието на книгата в крайна сметка стана — реалността има нужда от вас. Моментът да се откажем от реалността не би могъл да бъде по-неподходящ.

Пишете, че социалните мрежи са ни подготвили за това.

Социалните медии ни обработиха, като ни накараха да свикнем с идеята, че ако си тъжен или потиснат, просто отваряш компютъра си. След това те ви разгневиха и ви затвориха в балони със себеподобни. Но сега имаме тази нова технология, която няма никаква причина да говори в първо лице.

Смятате ли, че трябва да забраним на чатботовете да използват първо лице?

Да! След кариера, през която имах авторитета на човек, който не е фанатичен лудит, нямам намерение да загърбя всичко това и да твърдя, че всички чатботове са токсични през цялото време. Но това е много опасно, хлъзгав наклон е. Това се използва, за да се каже по същество, че няма нужда да плащаме за психотерапия, а можем да използваме чатботове. Във всяко сериозно интервю, което провеждам, хората се позовават на този мит за практиката — че използваш чатботове, за да се упражняваш за разговор с шефа си, партньора си или учителя си. Но когато се потапяте в топлата супа на пълното приемане [от страна на големите езикови модели], говоренето с чатботове се превръща в крайна цел.

Вие също така виждате проблем в зависимостта от чатботове на работното място и изпитвате особено отвращение към термина „човек в цикъла“ (human in the loop).

Когато използват този термин, това означава, че човекът е изваден от продуктивния процес и е оставен там само за да върши някаква почистваща работа, да улавя халюцинациите или нещата, които изкуственият интелект пропуска. Това не работи, защото работодателите държат едва двама-трима души в цикъла. Тези хора на практика не могат да променят нищо. Те са там отчасти, за да звучи добре при евентуални съдебни дела, и отчасти, за да дадат на хората фалшиво усещане, че процесът не е делегиран изцяло на изкуствен интелект. Но той е делегиран на изкуствен интелект.

Може би мощните чатботове са нова форма на взаимодействие, която не е задължително по-лоша от човешкия разговор, а просто по-различна, тъй като хората споделят, че се чувстват насърчени и овластени от положителната обратна връзка, която получават.

Един изкуствен интелект никога няма да замени човешкия разговор. Той наистина не се страхува от смъртта, не се страхува от болести, не изпитва болка, не обича децата си и не го е грижа дали ще се самоубиете или ще сготвите вечеря. Така че, ако отглеждаме децата си с него или водим най-интимните си разговори с него, ние ще загубим връзка с реалността и помежду си.

Все пак много хора нямат с кого да говорят. Те смятат, че общуването с чатботове им помага.

Ако има криза на самотата, тя е защото се изоставяме един друг. Дайте ми един център за данни и ще го превърна в ресурси за възрастните хора.

Проучванията показват, че повечето хора са скептични към изкуствения интелект и има значителна съпротива. И все пак стотици милиони хора ги използват. Дори хора, които се противопоставят на центровете за данни, използват чатботове.

Целта на тази книга е да разшири обхвата на тази съпротива, така че да включи и тази по-интимна връзка.

Наистина ли смятате, че нашата нарастваща интимност с изкуствения интелект може да бъде спряна?

Сега имам повече надежда, отколкото преди шест месеца, заради всички тези разговори за заплахи от екзистенциален мащаб, случаи като тези около Hugging Face и грешките при внедряване в австралийската държавна администрация. Вярвам, че хората ще проявят воля да обърнат внимание както на интимната, така и на неинтимната цена.