Тази седмица в Uncanny Valley Брайън Барет, Зои Шифър и Лия Файгър обсъждат „морално обвързващото“ споразумение за изкуствен интелект, което технологичните ръководители подписаха след среща с Доналд Тръмп. Те се съгласиха, че лабораториите за ИИ ще се саморегулират — очаква се да се получи страхотно. Освен това екипът се задълбочава в Developer Day на OpenAI, където главният изпълнителен директор Сам Олтман представи ИИ агенти за обикновените хора, известни още като Dots; как ИИ агентите навлизат на работните места близо до вас; и бърз преглед на най-екстремистките кандидати, които се явяват на изборите.

Статии, споменати в този епизод:

  • Споразумението на Тръмп за безопасност на ИИ е просто красиво обещание
  • Тези екстремисти се явяват на изборите през ноември
  • Инфлуенсър от Пентагона нарече либералните жени „чума“, която ще сложи край на западната цивилизация
  • Белият дом започва да изпада в паника за междинните избори
  • Мисля, че намерих ИИ агент, който си заслужава риска
  • ИИ агентите са на път да залият работната сила
  • Създадох ИИ клонинги на моите колеги. Нещата станаха странни
  • Защо никой не иска да излиза на срещи с технологични момчета

Можете да последвате Брайън Барет в Bluesky на @brbarrett, Зои Шифър в Bluesky на @zoeschiffer и Лия Файгър в Bluesky на @leahfeiger. Пишете ни на [email protected].

Как да слушате

Ако използвате iPhone или iPad, отворете приложението Podcasts или просто натиснете този линк. Можете също така да изтеглите приложение като Overcast или Pocket Casts и да потърсите „uncanny valley“. Има ни и в Spotify.

Транскрипт

Забележка: Това е автоматичен транскрипт, който може да съдържа грешки.

Брайън Барет: Здравейте, тук е Брайън. две бързи неща, преди да започнем. Ако слушате от известно време и все още не сте оценили или рецензирали подкаста, това е вашият знак. Дайте ни оценка, кажете ни какво мислите. Пет звезди е чудесно, но ще приемем и обратна връзка. Това наистина помага на повече хора да открият шоуто. Освен това, ако сте в района на Залива (Bay Area), ще направим запис на подкаста на живо пред публика в четвъртък, 8 октомври, от 19:00 часа в The Commons, централата на нашите приятели от KQED в Сан Франциско. Можете да закупите билети на kqed.org или да проверите бележките към шоуто за линк. Няма да искате да го пропуснете. Добре, към шоуто.

Зои Шифър: Добре дошли в Uncanny Valley на WIRED. Аз съм Зои Шифър, сътрудничещ редактор.

Брайън Барет: Аз съм Брайън Барет, главен редактор.

Лия Файгър: А аз съм Лия Файгър, директор направление „Политика и наука“.

Брайън Барет: Тази седмица имаме нова прокламация или по-скоро „морално обвързващо“ споразумение за ИИ от Белия дом. След среща между технологични ръководители и Доналд Тръмп, то основно гласи, че лабораториите за ИИ ще се саморегулират. Очаква се да се получи страхотно. Освен това ще говорим за Developer Day на OpenAI, където главният изпълнителен директор Сам Олтман обяви новите постоянно работещи ИИ агенти на компанията за обикновените хора. Още ИИ агенти — отново, очаква се да се получи страхотно. Всичко се получава страхотно днес.

Зои Шифър: Да. И тъй като ИИ агентите стават все по-популярни в Силициевата долина и извън нея, работодателите натискат тези агенти да работят хармонично редом с човешките служители. Ще навлезем в подробности за това как всъщност протича този процес и какви са шансовете на всички нас много скоро да ни се наложи да посрещнем колеги ботове.

Лия Файгър: И с наближаването на междинните избори ще говорим за някои от екстремните кандидати, които се явяват на изборите. Не са само политическите кандидати тези, които се чувстват насърчени да казват каквото си поискат. Това са и хора, които в момента работят или наскоро са работили за правителството, включително пенсиониран армейски полковник, превърнал се в инфлуенсър от Пентагона, за когото WIRED съобщи тази седмица, че е публикувал множество хвалби за диктатори и има план да отнеме правото на глас на всеки без деца.

Брайън Барет: Нека обаче да започнем с един приятен обяд, който се проведе във вторник. Президентът Тръмп покани всички свои любими ръководители в областта на ИИ в Белия дом. Присъстваха Сундар Пичай, Илон Мъск, Дарио Амодей, Марк Зукърбърг, Дженсън Хуанг, президентът на OpenAI Грег Брокман, но не и главният изпълнителен директор на OpenAI Сам Олтман, плюс много компании, с които бях по-малко запознат. В някои отношения изглеждаше малко като пъстра компания, но това е без значение. Те излязоха със подписан документ, наречен Споразумение на Белия дом за суперинтелект. Суперинтелект, разбира се, е начинът, по който правителството вече нарича ИИ, изкуствения интелект. Но в това споразумение компаниите се съгласяват, че трябва да подложат моделите си на четири нива на контрол и одити. Това включва вътрешни оценки, допускане на външна одиторска фирма да влезе и да се увери, че всичко е наред, и съответно собственият борд на компанията да прегледа тези одити. И всичко това е доброволно.

Лия Файгър: Това си остава ключовата дума тук. Когато стане дума за какъвто и да е вид предложена регулация изобщо, която сме виждали досега в пространството на ИИ, що се отнася до Белия дом, доброволно е думата. Не знам, толкова ли е глупаво от моя страна да съм толкова фиксирана върху това, че нищо от това не е истинско? Всичко това е фалшиво.

Зои Шифър: Да, не мисля, че сме очаквали администрацията на Тръмп да излезе с реални регулации за компаниите за ИИ. Основното за тях е—

Зои Шифър: Растежът на ИИ. Но да, имам предвид, когато излязоха, Тръмп излезе пред Белия дом с всички главни изпълнителни директори, тяхното основно послание беше нещо като: „Ние контролираме нещата. Вземаме го насериозно. Не се притеснявайте за това.“ И мисля, че всъщност беше казано от някого там: „Ще се регулираме взаимно. Грижим се един за друг.“

Лия Файгър: Искам да кажа, че трябва да поговорим за този конкретен момент. Той привлича всякакво внимание в интернет, където Дарио Амодей е някак неловко избутан пред микрофона, за да каже няколко думи, а Тръмп го хвали, казвайки: „Каквото и да каже той, е наред“, което е страхотно. Така че ето какво каза той.

Архивен аудиозапис: Може ли просто да доведем Дарио отпред за секунда?

Доналд Тръмп, архивен аудиозапис: Къде е Дарио?

Брайън Барет: Той въобще не иска да е отпред.

Доналд Тръмп, архивен аудиозапис: Каквото и да каже той, е наред.

Архивен аудиозапис: Така че просто искам да чуя от вас след тази голяма среща на върха къде се намирате днес.

Дарио Амодей, архивен аудиозапис: Вижте, имам предвид, че ще кажа това, което винаги съм казвал, а именно че ИИ има невероятни ползи. Говорил съм за тях ...

Leah Feiger: Имам толкова много мисли. Първата от които е как Марк Зъкърбърг се опитва да води страничен разговор с Тръмп по време на това.

Leah Feiger: Просто е щастлив да бъде в стаята.

Zoë Schiffer: — и Тръмп са просто встрани, правейки физики един на друг.

Leah Feiger: Искам да кажа, вижте, всичко това очевидно беше толкова прибързана работа. Не мога да не си помисля, че това е просто начин да се каже на американската общественост няколко седмици преди междинните избори: „Не се притеснявайте, имаме ситуацията с регулирането под контрол. Ето най-богатите и най-влиятелни мъже в страната, наредени тук, за да ви кажат, че ще го регулираме. Всичко е наред. Наясно сме, че това не върви добре в проучванията в момента, но се справяме.“ Просто изглежда като пълна бъркотия. Което може би се подчертава най-много от факта, че думите „US“ буквално бяха сгрешени в документа за споразуменията. Пише „President of the Unites States“ под подписа на Тръмп, което е, не знам, не казвам, че бързо са го скалъпили, подписали са го, докарали са хора със самолети, но не казвам и че не изглежда точно така.

Brian Barrett: Може ли да кажа едно нещо, което ми се струва странно в това? Или не странно, но лабораториите за изкуствен интелект са в толкова неудобна позиция – не че имам толкова много симпатия към тях – но те искат някаква съществена регулаторна рамка, защото се притесняват да не бъдат разследвани за антитръст, ако нямат някакъв вид разрешение да забавят всичко това. Но след това на следващия ден, във вторник, те казват: ето я тази рамка. Всичко ще бъде наред. Саморегулирайте се. И след това в сряда FTC казва, че засилва голяма проверка на Anthropic, OpenAI и други водещи лаборатории относно опасностите, които тяхната технология представлява за потребителите. Така че получавате натиск и от двете страни от страна на правителството.

Zoë Schiffer: Да. И имаме Лина Хан, която пише авторска статия в New York Times днес, казвайки, че те всъщност могат да бъдат съдени съгласно съществуващите закони. Не е задължително да създаваме нови закони, с голямата уговорка, че Конгресът ще трябва да действа.

Leah Feiger: А старшият политически кореспондент Хюго Лоуел в бюлетина си тази седмица за WIRED също написа за това как екипът на Тръмп е много добре наясно, че проучванията не са в тяхна полза. Не изглежда, че ще спечелят Конгреса. И в резултат на това те започват да гледат напред в бъдещето и как да избегнат всички тези призовки и разследвания, с които демократите със сигурност ще ги засипят. Имайки това предвид, нямам съмнение, че си прав, Брайън. Всеки някак си гледа това и си казва: добре, това е нашият момент в момента, но как ще изглежда това за нас, дори не след брой години, когато Тръмп вече няма да е на власт, а след брой месеци, когато демократите привидно ще контролират Камарата на представителите и Сената.

Zoë Schiffer: Лично аз мисля, че републиканците ще се представят страхотно на междинните избори, но можете да отрежете това, защото не предавам новини за политика и това е просто моето субективно усещане.

Leah Feiger: Постоянно си променям мнението. В момента мисля, че при цените на горивата такива, каквито са, и при определени проучвания, показващи такива резултати, ще бъде наистина изненадващо за мен, ако демократите успеят да загубят това. Не републиканците да го спечелят – това би изисквало демократите да оплетат нещата, което отново е напълно възможно.

Zoë Schiffer: Връщайки се към срещата на върха и обяда за изкуствения интелект, Брайън, беше ли или не беше изненадан да не види нито загатване за представител на Apple?

Brian Barrett: Малко. Apple бяха... те бяха тези, при които незабравимо Тим Кук поднесе на Доналд Тръмп златна дрънкулка.

Zoë Schiffer: Явно не достатъчно голяма.

Brian Barrett: Не достатъчно голяма. Не достатъчно голяма дрънкулка. Тълкувате ли го, Зла и Лиа, като това, че Apple просто все още не е достатъчно релевантен в областта на изкуствения интелект днес?

Brian Barrett: Мисля, че щяха да бъдат там на мига, ако бяха поканени.

Zoë Schiffer: Не че са лоши в дипломацията.

Leah Feiger: Но Марк Зъкърбърг толкова ли е релевантен?

Leah Feiger: Така ли мислите? Добре. Добре, греша.

Brian Barrett: Meta разполага с най-популярния потребителски AI агент днес.

Zoë Schiffer: Не защото AI агентът... Те просто имат дистрибуция и затова AI на Meta може да бъде толкова популярен толкова бързо, защото могат да го натрапват на всички и точно това правят. И те практически популяризират безплатен AI агент, който субсидират доста сериозно в момента. И така, да, но мисля, че Apple просто, откровено казано, не са в играта. Не са в играта.

Brian Barrett: Говорейки за AI агенти, именно за Muse говорим. AI агентът Muse на Meta превзе магазина за приложения като буря, но това е така, защото нямаше голяма конкуренция, докато във вторник, както казахме, OpenAI проведе своя Dev Day. И в своята основна встъпителна реч Сам Олтман излезе на сцената и посвети повечето от времето си на Dots, който е отговорът на OpenAI спрямо Muse. Това са техните постоянно активни агенти. Можете да взаимодействате с тях чрез ChatGPT или Slack. Функциите са доста утвърдени към този момент. Практически можете да кажете на вашия агент да извърши каквато и да е задача онлайн вместо вас и той ще я свърши. Зла, знам, че си играеше със свои собствени агенти. Ти си много по-навътре в това от Лиа и мен. Две неща тук. Първо, колко много OpenAI се нуждае Dots да се наложи, за да запази позицията си в надпреварата при изкуствения интелект? И второ, как се справиха по отношение на очарователността? Те наистина се стремят към очарователност, опитват се да ги направят сладки, не мисля, че съвсем успяха. Мисля, че Muse е по-сладък. Eто, казах го. Това не означава, че трябва да използвате който и да е от тях.

Zoë Schiffer: Това разговор ли е?

Brian Barrett: Всъщност е. Затова те прекъсвам, защото—

Brian Barrett: Шегувам се, но целият смисъл на факта, че ги правят толкова сладурски, пухкави и очарователни, очевидно е нарочен. Това е нещо, което ще спечели средностатистическия потребител и ще ви накара да забравите, че предоставяте цялата си поверителност, цялата си информация и всичките си акаунти на това очарователно пухкаво малко нещо, вместо на център за данни.

Leah Feiger: Това част ли е от разговорите за безопасността в интернет сега, Брайън? Когато седиш с децата си и си казваш: „Ще имате достъп до това, не се заблуждавайте от пухкавия аватар. Те просто искат банковите ви данни.“

Brian Barrett: Да, мисля, че „не се разхождайте с пухкави аватари онлайн“ е добре установена директива за децата.

Leah Feiger: Правилата на Брайън за движение по пътя, хора. Чухте го тук.

Zoë Schiffer: Да. Е, просто щях да кажа, че бях на Деня на разработчиците вчера и имах няколко наблюдения. От една страна, OpenAI наистина изглежда фокусиран в момента. Чух от хора в компанията, че са пуснали Dots, тези вид сладки, пухкави, постоянно включени агенти в рамките на броени седмици. Видяли са Instinct и Muse, тези други видове OpenClaw агенти за обикновени потребители, и са си казали: „Добре, трябва да играем тази игра.“ И са се организирали наистина, наистина бързо. Мисля, че е интересно, защото много от тези възможности всъщност съществуват от известно време, но когато говорите с хора в индустрията, те говорят много за формата на продукта. Новите агенти трябва да изтеглят ново приложение или да научат нови инструменти, а те всъщност проактивно научават за вашия живот и след това предлагат неща, които могат да направят за вас, за разлика от това да виждате това празно текстово поле и да си казвате: „Мога да изградя каквото и да е. Какво бих искал да изградя“, всъщност е голяма разлика. Вчера наистина бях поразена от мисълта: „Уау, Anthropic са в неизгодна позиция“, което не се е случвало често напоследък. И те, мисля, че наистина трябва да пуснат нещо интересно в това пространство по-скоро, отколкото по-късно. Но както и двамата казахте, съществува това постоянно напрежение и компромис, който е, че за да направите тези агенти полезни, трябва да им дадете много лична информация. В противен случай те просто не могат, честно казано, да направят толкова много. И за да им дадете толкова много лична информация, поемате риск. Напълно разумно е да решите, че не искате да вървите по този път. Dots получава достъп до вашия имейл, вашия календар, понякога вашата финансова информация и след това може да прави неща от ваше име. Началният импулс, ако говорите с хора, които ги използват, а аз съм един от тях, са резервациите за ресторанти. Можете да кажете: „Хей, отивам в Ню Йорк по това време. Можеш ли да ми резервираш тези маси?“ И той ще изчака да се отвори блокът за резервации и ще ви резервира маса. Всъщност бях, трябва да кажа, Ноа Шин, който е главен изпълнителен директор на Instinct, той е на 23 години. повтарям, този човек е на 23 години. Неговата компания, на по-малко от две години, се оценява на 10 милиарда долара в момента. Той даде първото си дълго интервю, откакто приложението му напълно избухна, и говори за резервации в ресторанти. Наистина чаках да си кажа: „Този човек е размишлявал задълбочено за това какво се случва с интернет, когато агентите правят цялото ви разглеждане и резервиране.“ Не, господине. Не. М-м. Той беше нещо от рода на: „Ще бъде страхотно, защото преди това резервациите за ресторанти бяха по реда на пристигане, а сега вашият агент може да каже дали е вашият рожден ден или годишнина и тогава ресторантът може да ви даде приоритет.“ Бях като: „Трябва да мислиш за това само две секунди, за да разбереш, че тогава всеки просто ще каже, че е тяхната годишнина или рожден ден. Какво имаш предвид?“ Както и да е.

Leah Feiger: О, боже мой, толкова съм депресирана.

Brian Barrett: Забавно е, това ми напомня за, малко се отклоняваме от темата, но друго в същия дух, имаше предупреждение тази седмица от една от банките, вярвам, или просто вид наблюдение, че тъй като всеки получава тези агенти, те винаги ще оптимизират и винаги ще търсят най-добрия резултат за своя потребител. И ние не сме устроени в свят, в който всеки оптимизира през цялото време. Примерът, който дадоха, беше банковото дело. Ако всеки вземе всичките си пари от спестовни сметки с ниски до никакви лихвени проценти и ги вложи в сметки на паричния пазар, където прави 3% до 6%, каквото и да е, по тази сметка, американската финансова система може практически да се срине. Това е като масово теглене от банката, защото ние сме изградени, тази система е изградена с предположението, че хората ще имат много ниски до никакви лихвени проценти, защото така банките могат да правят своя собствена лихва от това. Така че да, когато имаме този свят, в който всеки има свой собствен AI агент, който се грижи за най-добрите му интереси, преговаряйки с други AI агенти, за да разбере кой получава най-добрия резултат, мисля, че ще се натъкнем на някои наистина интересни непредвидени последици.

Zoë Schiffer: Със сигурност. И другото нещо, от което бях наистина поразена вчера, връщайки се към точката на Леа, е, че просто се чувстваше така, сякаш се казват много различни послания за това какво може да направи агент като Dot. Той е като този сладък, пухкав агент, с изключение на това, че те някак отминаха нещото с резервацията за ресторант. Беше като, разбира се, че могат да резервират маси за вас, но също така може да прави и всички тези хардкор инженерни неща по отстраняване на грешки в кода. И споменаха сигурността и поверителността, наистина мисля, че това е нещо, за което мислят, но просто изглежда, че посланията около тях са наистина объркани. Бен Томпсън говори за това наскоро в TBPN и той каза: „Повечето хора не искат да бъдат по-продуктивни. Те искат други неща. Пазарувате, защото пазаруването е развлекателно.“ Тази идея, че всички сме създатели и всички искаме да оптимизираме всяка област от живота си, да вършим повече работа, не мисля, че говори на много хора.

Leah Feiger: Мисля, че това е нещото, към което се връщам постоянно. Дори и със света на резервациите за ресторанти, и вижте, това не е за всеки, но казвате на един агент: „Искам да отида в три от най-добрите ресторанта в Ню Йорк, които ще бъдат на цена под 150 на човек.“ Това е много специфично гранично пространство. Очевидно го разбирам. Ако нямате много време, имате работно пътуване, имате каквото и да е. Има много хора, които наистина обичат да четат отзивите за най-добрите ресторанти на Ню Йорк Таймс и да преровят блоговете, и това е мястото, където този човек, на когото наистина имам доверие, ми е казал, че трябва да отида. Така че идеята да оптимизираме всичко също се усеща така, сякаш след това губим толкова много, нали?

Leah Feiger: И отново, разбирам, че не е за всеки. Не всеки има същия интерес тук, но има този много странен липсващ елемент, липсващ културен елемент, който изведнъж изчезва.

Zoë Schiffer: Да. Другото нещо, за което Ноа Шин, пак да кажа, главен изпълнителен директор на Instinct, говори в този подкаст, когато интервюиращият – който отново му задава доста лесни въпроси, питанията изобщо не бяха провокативни или трудни – го пита: „От какво сте развълнуван?“. Той посочи това с резервациите за ресторанти. И след това каза: „Също така хората снимат всяка дреха в гардероба си и след това Instinct им предлага облекла за седмицата.“. И аз си помислих, че макар очевидно да не съм целевата аудитория тук, нима наистина смятате, че агент, създаден от 23-годишен инженер, ще ви даде модни съвети, които наистина искате да следвате?

Leah Feiger: Отново стигаме до въпроса – каква култура губим, хора? Всяка седмица намирам нов аргумент за нещо, което ме вбесява, и днес може да е точно това.

Brian Barrett: Е, аз ще кажа, че не е само това – съществува не само въпросът колко хора наистина искат тези неща. И за да сме ясни, може би всички ги искат. Може би те биха могли да бъдат нещо огромно, много хора се радват на своя Muse.

Leah Feiger: Искам да кажа, че не всеки е против това. Зоуи, без да те злепоставям, ти искаш този живот. Искаш робот за команден център.

Zoë Schiffer: Да. Искам да кажа, че използвам агентите и ето какво ми е интересно – наистина смятам, че са полезни и ценни. Снощи Андрю ме попита кога ще идва детегледачката следващата седмица и аз накарах агента да състави споделен календар – календар за грижа за децата с датите, в които момичетата нямат училище, датите, в които имаме осигурен човек, датите, в които ни трябва такъв, и да го сподели с всички заинтересовани. Това щеше да ми отнеме един час, а стана за по-малко от минута. Наистина е чудесно. Разбира се, за да се случи това, трябва да дадете на агента достъп до календара си, достъп до имейла си и възможност да споделя календар с други хора през имейла ви. Отново – всичко това са рискове. Но това, което ми е интересно е, че когато слушате ръководителите на компании за изкуствен интелект да говорят за технологията и нейните възможности, ми се струва, че те самите не разбират какво създават. Не познавам много хора – и със сигурност аз самата не искам това – които да искат AI агент да им дава модни съвети. Нещата, които те искат и които аз искам, са съвсем обикновени и ежедневни.

Leah Feiger: Искаш асистент.

Zoë Schiffer: Да, а понеже агентите могат да правят много повече, техните творци си казват: „Е, да, разбира се, че може да направи това, но вижте и всички тези други неща.“. Но хората всъщност просто искат базовите неща да бъдат свършени надеждно, добре и без да се излага на риск цялата им информация – и ние трябва да се справим безупречно с това, за да може тази технология наистина да навлезе масово.

Leah Feiger: Имаш ли страхове? Добре. Да, просто ми е толкова любопитно, защото в много отношения това, че аз не го правя, не е защото отричам полезността му. Честно казано, докато описваше споделения семеен календар, си казах: „Трябва ми това. Трябваше ми още вчера, но просто не ми е останало време да го направя“, но не съм го направила, защото ме е страх, и точка. Просто активно се страхувам. Как се справяш с това?

Zoë Schiffer: Искам да кажа, че и аз се страхувам. Говорих за това в статията, която написах за Instinct миналата седмица. Живея със страха личната ми информация да не изтече, да не излезе извън моя контрол и всичко останало. И мисля, че сега с агентите се страхувам повече, отколкото преди, със сигурност. В същото време агентите могат да бъдат полезни – миналата седмица един приятел изпрати покана през Paperless Post за барбекю. Баща ми я натисна. Моят агент веднага ме предупреди, че това е фишинг измама, и затова аз не я отворих. И така моето виждане беше: аз съм наистина заета. Бих могла да направя грешка съвсем сама в ежедневието си, защото се опитвам да върша няколко неща едновременно – да взема момичетата от училище, докато работя, и всички тези неща. Затова е полезно да имаш още един чифт очи. Фактът, че този чифт очи след това може сам по себе си да представлява риск за сигурността, е ужасен. Мисля за това през цялото време, но в момента съм готова да поема риска, защото виждам полза от тях, а това може и да се промени.

Brian Barrett: Зоуи, в момента ти правиш личен избор да използваш AI агент в живота си, което е чудесно. Все повече обаче хората нямат този избор, нали? AI агентите като колеги се превръщат във все по-голяма норма. Старши редакторът на WIRED Кейт Тейлър писа за това тази седмица. Как се чувстваш относно AI агентите на работното място, Зоуи, които ти изпращат съобщения в Slack?

Zoë Schiffer: Да, това всъщност беше нещо, за което от OpenAI говориха на своя Developer Day. Сътрудничка на OpenAI излезе и демонстрира как използва своя Dot – мисля, че името беше Доти – като един вид колега. Тя може да го добави в Slack. Може да го спомене в документи и той може да отговаря и да води диалог. Очевидно това е човек, който активно избира да прави това. Мисля, че да ти бъде наложен агент е различно, честно казано. Искам да кажа, съжалявам, ако това е най-нелепото мнение, но според мен всичко се свежда до това колко добър е агентът. Всички сме изпитвали това да трябва да говорим с робот при обаждане в отдел за обслужване на клиенти и това да е толкова разочароващо, защото той просто не може да разбере какво казваш и нямаш търпение да говориш с човек. Ако това обаждане работеше добре, не знам дали щеше да седиш там и да си казваш: „О, това е трагична ситуация.“. Все пак щеше да разбираш загубата на работни места и нещастието от това, но ти лично не би бил задължително напълно раздразнен.

Brian Barrett: Едно нещо, което ми беше интересно в статията на Кейт, беше, че изглежда има – и това е логично – разминаване в opinions за това доколко антропоморфизираме тези системи. Имаш ли агент колега, с когото се отнасяш като с човек и водиш такъв непринуден разговор, който го представя като такъв? Или той е инструмент и се отнасяш към него като към инструмент, не му даваш човешко име, а просто знаеш, че е там и върши работата вместо теб? Има истинско разделение по отношение на това каква роля трябва да играят, как трябва да се отнасяме към тях, как се справяме с тях в тази среда – с тези агенти.

Leah Feiger: О, това направо ме изплаши. Искам да кажа, фактът, че това е целта, че това е нещо, което се опитват да направят тук.

Зои Шифър: Да, искам да кажа, че имам чувството, че този въпрос съществува откакто OpenAI пусна ChatGPT през 2022 г. Нещото, което големите езикови модели (LLM) могат да правят, е да говорят с вас на естествен език, да звучат по-човешки от традиционния бот. И мисля, че компанията видя наистина, наистина бързо, че от нейна гледна точка това е функция, а не дефект. Хората харесваха да взаимодействат с нещо, което се усеща по-човешко. И можете да видите в тези конкретни обстоятелства с приложения, които се използват за обучение на деца, това е полезно ... Един добър човешки преподавател не просто ви залива с математически задачи. Той също така казва: „Справяш се страхотно“. Той малко ви насърчава и затова може да бъде полезно, ако приложението прави това. Другата страна на това е, че можете да забравите, че това, с което говорите, е система, това е софтуер, и очевидно сме виждали как хората наистина се привързват към тези системи. Те изграждат взаимоотношения с тези системи.