Тук, в WIRED, се опитваме да осмислим поне два инцидента в индустрията на изкуствения интелект от тази седмица: Първо, големият спор около математически проблем за един милион долара и дали OpenAI тайно е заимствала работата на други изследователи, за да реши проблема първа. Ден по-късно изследовател от Anthropic — който преди това е работил в OpenAI — публично напусна работата си, изтъквайки притеснения относно начина, по който и двете компании се справят с безопасността на ИИ. Друг технически сътрудник в Anthropic каза в отговор, че хората в компанията „наистина искрено вярват, че ИИ може да убие всички хора! Аз лично смятам, че вероятността е >10% през следващото десетилетие.“ (Обърнете внимание на удивителния знак.)

Интернет избухна в дебат дали тези страхове са напълно легитимни, прекомерно раздути, част от стратегия за регулаторно привличане или себеиздигане от страна на лабораториите за ИИ, които създават технологията. Или някаква комбинация от тях.

Един известен изследовател на технологии и ИИ, Тимнит Гебру, бе особено рязка, публикувайки в X и Bluesky за припокриващите се идеи и идеологии, които според нея са ни довели до този абсурден момент. Преди това Гебру беше най-известна с широко отразеното си напускане на Google. Наета през 2018 г., за да оценява предразсъдъците в бързо развиващите се ИИ инструменти на компанията, тя и нейните колеги изследователи представиха доклад за потенциалните опасности от вероятностните големи езикови модели. Google го отхвърли. Гебру не остана още дълго в компанията. Тя е написала предстояща книга за преживяванията си, озаглавена Deep Unlearning: The Rise of AI and the Radicalization of a Tech Idealist (очаква се да излезе в началото на следващата година).

Гебру има много мисли относно събитията, свързани с ИИ през изминалата седмица. Докато нейната работа по същество е вкоренена в безопасността на ИИ, тя отхвърля фрази като „безопасност и съвместяване“ (alignment) и смята, че онези, които предупреждават за предстоящия ни гибел, се опитват да отклонят вниманието от действителните вреди, които технологичната индустрия може да увековечи.

ЛОРЪН ГУД: Какво според вас казва цялото това внимание върху „математическия спор“ за настоящото състояние на ИИ?

ТИМНИТ ГЕБРУ: Ами, първо бих попитала, защо инвестират толкова много в решаването на математически проблеми? Защо избират определени дисциплини? Някак си тези предмети, като програмирането, шаха и математиката, бяха издигнати до значението, че ако сте ги решили, следователно сте решили проблема с интелекта. Това е така, за да могат да кажат: „Ние го установихме и го направихме.“

Историята, която OpenAI иска да чуете, е, че този ИИ е направил това невероятно нещо и е супер интелигентен. Ето защо те избраха математиката, този отворен въпрос за 1 милион долара. Но ако беше преминал през целия процес, чрез който математическата общност оценява значимостта и новостта на претенциите и кой е допринесъл за тях, и всички бяхме изчакали прахът да се слегне, щяхме да добием по-добра представа дали OpenAI е рамкирала пробива си точно.

Има нещо, наречено Декларацията от Лайден, което смятам за наистина добро и което предупреждава какво се случва, ако областта на математиката се използва от корпорациите по този начин. Законодателите започват да разчитат на прессъобщения и популярни медии, когато трябва да разговарят със самите математици. Времето, което отнема сега от това компаниите да претендират за пробив в ИИ до Берни Сандърс, предлагащ законопроект, е наистина кратко и това не е хубаво нещо.

Всичко е просто безпощадна борба в момента преди техните първични публични предлагания (IPO). Като цяло изследователите трябва да си сътрудничат. Когато бях в Google, сътрудничехме с изследователи в Microsoft, в Amazon. Правите това през цялото време. Сега изследователите са напълно трескави за проблемите, които смятат, че решават, поради предстоящите си IPO-та.

Как интерпретирате оставката на този инженер от Anthropic, който казва, че компаниите са безотговорни и залагат на хазарт живота ни? От една страна, изглежда се съгласявате, че компаниите действат безотговорно; от друга страна, стана ясно, че смятате дебата „ИИ ще причини края на цивилизацията“ за безсмислен.

През цялата си кариера се опитвам да кажа едно и също нещо от различни ъгли. Написахме нашия доклад за стохастичните папагали през 2021 г. поради тази причина. OpenAI твърдеше, че GPT-2 е твърде мощен за пускане. Беше толкова прехвален. А ние казвахме, че задавате грешните въпроси.

В книгата си пиша: „Може ли един мост да реши да се срути?“ Цялата история с „О, не, нашите модели станаха злонамерени“… Когато един мост се срути, не анализирате дали мостът е бил етичен или съзнателен, или защо е решил да се срути. Питате кой е човекът, построил този мост толкова крехък? Има разрешителни, които трябва да придобиете. Трябва да има тестове. Когато питате за самия срутващ се мост, губите нишката.

Междувременно това, което е наистина екзистенциално, е ИИ да задвижва автономни оръжия, машини за убиване, които действително се използват във война. Климатичната катастрофа е реален проблем, който може да бъде задълбочен от това, което тези технологични компании изграждат. Шефовете използват ИИ като извинение да се отърват от досадните си работници. Този разказ за „машинния бог“ според мен има за цел да ни разсее от тях. Индустрията се превърна в микс от култове, микс от хора, които са истински вярващи, точно като проповедник, който казва, че идва краят на времената. Сингулярността идва вече десетилетия.

Преведете ме стъпка по стъпка как би могло да се случи „изчезването на ИИ“, ако беше реално. Сещам се за тази публикация, където някой каза: Дали някой ядосан графичен процесор (GPU) просто се появява в къщата ми или нещо подобно?

Не мога наистина да си го представя, но много от тези сценарии изглеждат така: молите машината да оптимизира за някоя друга задача и след това машината решава, че начинът да стигне до тази цел е като убие всички по света. Дали ИИ ви хипнотизира, така че да не го изключите от контакта? Не знам! Други хора казват, че ИИ може да зарази вашите машини. Да — а ние вече имаме зловреден код, така че…

Какво ще кажете за наводнения и пожари? Какво ще кажете за основно смущение в глобалната верига за доставка на храни? Има реални заплахи, идващи към нас, като възможността хората да създават и използват химически оръжия. [Забележка: Не след дълго след разговора ни Anthropic разкри, че е блокирала няколко потенциални опити на учени да изградят биологични оръжия.]

Има и друг елемент, в който сте толкова привилегировани, че не можете да си представите други неща да ви навредят. Наприемр, ако не се притеснявате от полицейско насилие, наводнения или военни действия — неща, които действително могат да ви убият — тогава можете да се фиксирате върху машинния бог.

Защо прекарваме толкова много време в разговори за тази идея за ИИ, за която хората говорят от 40-те и 50-те години на миналия век? Имам една игра, която играя понякога, където чета цитати на хора за изкуствения интелект, събрани в изследванията ми, и ги питам: През кое десетилетие е направено това изявление? Понякога хората познават, но в много случаи не успяват, защото всичко звучи по един и същ начин.

Това е издание на бюлетина Backchannel на Стивън Леви и Лорън Гуд. Прочетете предишни бюлетини тук.