Наскоро предупреждения от изследователи в най-големите лаборатории за изкуствен интелект в света относно бързото темпо на развитие доведоха до паника за възможността технологията да унищожи човечеството. Тези предупреждения се основават на идеята, че — подтиквани от ожесточена конкуренция и съперничество между САЩ и Китай — лабораториите се стремят към модели със суперинтелект, чиито способности далеч ще надминат тези на хората.

Но според отец Паоло Бенанти, свещеник, който съветва Католическата църква относно ИИ, драматизирането около суперинтелекта отклонява вниманието от необходимостта от открит дебат за това как да бъдат ограничени компаниите, изграждащи технологията. Като представят проблема като толкова сложен, че само те могат да го решат, казва той, големите лаборатории изключват всички останали от разговора.

„Етиката не може да бъде нещо, което принадлежи на борда на директорите на дадена компания. Това е нещо, което трябва да бъде балансирано и решено чрез дебат в общественото пространство.“ — казва Бенанти пред WIRED. „Нуждаем се от демократично регулиране.“

В есе, публикувано малко след предупрежденията за безопасност, изпълнителният директор на Anthropic Дарио Амодеи призова новите модели на ИИ да преминават през задължителни оценки от трети страни преди пускането им на пазара, както и за мерки срещу дестилацията — процес, при който конкурентни лаборатории обучават собствен ИИ върху резултатите на патентовани модели. Други настояват за пълна забрана на рекурсивното самоусъвършенстване, при което ИИ използва напредналите си способности за кодиране, за да подпомага разработването на следващите си версии.

Бенанти е по-малко заинтересован от ограничаването на методите за разработване на ИИ, което се опасява, че може да потуши иновациите, и повече от създаването на стандарти, гарантиращи, че моделите не могат да избягат от човешкия контрол. Каквато и форма да имат тези стандарти, казва той, те не трябва да бъдат проектирани от самите лаборатории.

„Наративът на водещите лаборатории е користолюбив, за да придобият или запазят позиция на пазара“, казва Бенанти. Когато малка група компании диктува правилата, по които функционира даден отрасъл, той казва: „Това има съвсем ясно име: картел.“

Трудно е да се знае колко сериозно да се приемат гръмките изявления за възможностите на най-новите и бъдещите модели на ИИ, казва Бенанти, поради припокриващите се икономически, политически и лични стимули.

Въпреки че OpenAI и Anthropic подкрепиха призивите за забавяне на развитието, те също така се подготвят да станат публични компании и са заложени десетки милиарди долари за този, който завладее пазара. Враждебността между САЩ и Китай, където се разработват най-напредналите модели на ИИ, също усложнява картината.

От Anthropic отказаха коментар. OpenAI и Google DeepMind не отговориха на запитванията за коментар.

Бенанти също така не е съгласен с начина, по който определени среди в индустрията за ИИ говорят за суперинтелекта — с такова благоговение, обикновено запазено за божество: като нещо толкова сложно, че надхвърля разбиранията ни, и практически всемогъщо. (Изпълнителният директор на OpenAI Слам Олтман веднъж заяви, че се стреми да изгради „магически интелект в небето“.) Подобно рамкиране, казва Бенанти, заплашва да изкриви дискурса за технологията.

„За някакво нещо ли говорим, или за някой човек? Това е истинската разлика. Това не е въпрос на вяра, а на математика“, казва той. „Ние не изграждаме следващото божество. Просто се заблуждаваме, че се случва нещо повече от статистически изчисления.“

Поставяйки въпроси за това какво разделя човека от машината и как да предпазим бъдещите поколения от отрицателните ефекти на технологията, появата на ИИ има потенциала да създаде „нова роля за религиите в обществения дебат“, казва Бенанти. „Да живееш с предизвикателствата на времето е част от мисията на Църквата.“

Въпреки че Бенанти е свещеник, той не представлява официално Светия престол — управителния орган на Католическата църква. Вместо това той съветва църквата в качеството си на учен по философия, теология и технологии. Бенанти споделя пред WIRED, че използва ИИ, за да създава инструменти и материали за своите университетски студенти, но отказа да уточни как папа Лъв XIV използва технологията, ако изобилства от такава. (Сътрудниците на Бенанти казват, че той е обвързан с „клетва за конфиденциалност“.)

През май папа Лъв публикува първата си енциклика — писмо, което прилага религиозни учения към съвременните проблеми и изяснява позицията на Църквата. Той избра изкуствения интелект за нейна тема.

В писмото Папата предупреди срещу технократската логика в индустрията за ИИ, която представя „ефективността като крайна мярка за стойност“ и разглежда човешкото същество като „проект за оптимизиране“. Той също така призова за международно сътрудничество между съперничещите си суперсили и компании за ИИ, които според него трябва да оставят настрана „желанието за геополитическо или търговско доминиране“, за да гарантират, че технологията се развива в услуга на общото добро. В един особено проницателен раздел той предупреди за „опасността човечеството да стане жертва на собствените си постижения“.

Суматохата около суперинтелекта и екзистенциалния риск заплашва да отклони вниманието от целите, заложени в енцикликата, казва Бенанти, като насърчава хората да се откажат от правото си на глас относно посоката, която трябва да поеме технологията, в полза на малка група математици, компютърни специалисти и ръководители в големите лаборатории.

„Първото нещо е, че трябва да имаме спирачки и волан“, казва Бенанти. „Това означава значителна позиция на контрол от страна на хората върху машината.“