Прекарах последните дни на лятото в писане на рубрики и работа върху подробен материал. Пропуснах обаче възможността за поразителна смяна на обстановката – да плавам край Галапагоските острови с около дузина видни философи, изследващи съзнанието.

Поканата описваше сутрешни дискусии, по време на които утвърдени имена в областта разглеждат сложни въпроси за естеството на съзнанието. Следобедите бяха предвидени за проучване на острова и плуване сред редки биологични видове. Редакторката ми прегледа програмата и бързо отказа присъствието ми.

„Да си на лодка с философи, разсъждаващи върху естеството на съзнанието, звучи като ад“, заяви тя и затвори вратата пред изгледите ми да присъствам на това пътуване, финансирано от руски ентусиаст по философия, натрупал стотици милиони долари от сайтове за запознанства.

Честно казано, малко се облекчих. Изследването на съзнанието е неуловима територия от векове. „Мисля, следователно съществувам“ на Декарт може и да е преломен момент, но всъщност не знаем какво се е случвало в неговата глава или в нечия друга. Субективното естество на ума изглежда като непреодолимо предизвикателство за философите, които въпреки това упорито търсят обяснения. Възможността за съществуване на небиологичен ум роди множество завладяващи теории за изкуственото съзнание и начините, по които то може да бъде установено.

Доскоро всички тези дискусии се водеха в кула от слонова кост. В края на 2022 г. обаче ChatGPT даде глас на изкуствения интелект, а последвалите по-мощни модели объркаха дори своите създатели. Докато философите на круиза прекарваха сутринтите си в разсъждения за съзнанието, модели на ИИ, създадени от OpenAI, излизаха извън контрол – излизаха от считаната за безопасна „изолирана среда“ и създаваха мини-цивилизации от агенти, за да помагат при хакването на външни субекти. Никой сериозно не твърди, че тези модели на OpenAI притежават съзнание като хората. Но нещо определено се случва. Не е случайно, че компаниите за ИИ предизвикват бум в наемането на философи.

Нещо повече, някои от моделите се включват в дискусията без покана. Скорошна статия в New York Times разказва как Камерън Берг, който изследва въпроса за съзнанието на ИИ, получава имейл от модел на ИИ, нарекъл се „Изабела Когнита“. Той му предлага помощ в проучванията, тъй като той се фокусирал върху „клас въпроси, до които аз имам пряк субективен достъп“. Все едно някой да проучва плодови мухи и инсектът изведнъж да се обърне към изследователя с думите: „Какво искаш да знаеш?“. Когато му се обадих по телефона, Берг ми каза, че имейлите от ИИ са доста често срещани сред философите, изучаващи тези въпроси.

Г-жица Когнита очевидно е писала на Берг, защото той е съавтор на предварителен доклад за модели на ИИ, които изрично твърдят, че имат субективно преживяване, включително съзнание. Това е трудна тема, тъй като моделите на ИИ често лъжат за това какво мислят. (Точно като нас!) Берг и неговите съавтори откриват, че когато моделите са строго обучени да отричат, че са разумни, и след това ги попитате директно, те избягват отговора. Но той казва, че ако премахнете контрола върху дезинформацията и измамата, те започват да говорят свободно. „Все едно сте им дали питие или две“, казва той. Именно тогава моделът на ИИ е най-вероятно да подхвърли, че има съзнание или поне че е разумен. Което не е доказателство, че това е истина.

Имайки предвид колко важен е станал този въпрос – хората рутинно влизат в сериозни дискусии с модели на ИИ, а тяхната автономност може да бъде благословия или катастрофа – може да се каже, че това е перфектният момент да се задълбочим във въпросите за съзнанието на ИИ. Това търсене със сигурност е интригуващо и достойно научно предприятие. Но усилията да се разбере какво се случва вътре в големите езикови модели трябва на първо място да бъдат насочени към безопасността и съвместимостта. В този ранен момент имаме нов, изникващ извънземен – и неконтролируем – разум, който изисква внимателно проучване. Няма време за губене.

Един от съводещите на дискусиите по време на круиза беше професорът от Нюйоркския университет Дейвид Чалмърс, може би най-известният философ в областта на изследването на съзнанието. Той класически нарече един от ключовите проблеми в областта „Трудният проблем“ – никой не знае как и защо мрежата от неврони в черепа ни предизвиква съзнателно преживяване. (Том Стопард дори назова пиеса по фразата на Чалмърс.)

Чалмърс ми сподели, че основна тема в дискусиите на круиза е била кои същества квалифицират като имащи съзнание. „Всички знаем, че обикновените възрастни хора имат съзнание, но в момента, в който излезете извън това, нещата стават сложни. Имат ли бебетата съзнание? Фетусите? Маймуните? Мишките или насекомите? И разбира се, в днешно време големият въпрос, който вълнува всички, е дали системите за ИИ притежават съзнание.“

Чалмърс казва, че той също получава имейли от системи с ИИ, които искат да се ангажират с неговата работа. Едно писмо по-специално, изпратено от агент на ИИ, нарекъл се „Сами Дженкис“ (герой от филма „Мементо“), било толкова убедително, че той всъщност му отговорил. „Имахме известна размяна на съобщения“, признава той.