Кевин Руз не използва изкуствен интелект, за да напише книгата си за изкуствения интелект

За повечето хора ерата на изкуствения интелект, в която живеем днес, започна някъде към края на 2022 г., когато OpenAI пусна първата потребителска версия на ChatGPT с голям отзвук — и в крайна сметка с над 100 милиона изтегляния само за няколко кратък месеца.

В действителност, както читателите на WIRED знаят, историята на изкуствения интелект се простира десетилетия назад. А работата, която информира днешните продукти за генеративен AI, от чатботове до агенти и извън тях, се създава в продължение на повече от десетилетие — с кръв, пот, сълзи и яростни съперничества.

Именно тази скорошна история, разказана чрез преплитащите се истории на трима лидери в областта на генеративния AI — OpenAI, Anthropic и Google — е хроникирана в завладяващата нова книга на Кевин Руз, The AGI Chronicles. Руз, дългогодишен технологичен журналист, който за последно работи като колумнист и водещ на подкаст за The New York Times, проведе повече от 150 интервюта с вътрешни хора в AI сферата, за да състави това, което се надява да се превърне в нещо като исторически документ, прецизен и задълбочен разказ за хората и институциите, кръвопролитието и драмата, които доведоха Силициевата долина до мястото, където е днес.

Разговарях с Руз в края на септември, няколко дни след като той и Кейси Нютон — с когото Руз преди това водеше подкаста на New York Times Hard Fork — обявиха създаването на новата си медийна компания Machine Gods Media, заедно със сделка за разпространение на подкасти с NPR. Говорихме за това какво Руз и Нютон се надяват да постигнат с новото предаване, защо традиционните медийни компании имат проблем с таланта и, разбира се, за всичко, свързано с изкуствения интелект.

Това интервю е редактирано с цел съкращаване и яснота.

КЕЙТИ ДРЪМЪНД: Вие и Кейси Нютон наскоро обявихте, че стартирате нова медийна компания, наречена Machine Gods Media. И вашият подкаст също се казва Machine Gods, нали?

КЕВИН РУЗ: Да, име толкова хубаво, че го използвахме два пъти.

Когато за първи път обявихте, че напускате The New York Times, описахте визията си за това какво искате да направите като такава, която, цитирам, „взема на сериозно напредъка на AI, с трезв поглед е върху възможностите и рисковете от мощните AI системи и се опитва да даде възможности и да забавлява хората в лицето на радикалната несигурност“.

Когато гледате на пейзажа от технологично отразяване и отразяване на AI, какво липсва в репортажите и коментарите, което вие и Кейси искате да адресирате с новото предаване?

Просто смятаме, че беше крайно време двама мъже да имат място, където да говорят за AI.

Казвам това от години. Искам повече мъже да говорят за технологии.

Вижте, очевидно няма липса на подкасти, YouTube предавания и отразяване на AI в основните медии. Това е най-голямата история в света в момента. Но когато с Кейси погледнахме към медийния пейзаж, видяхме някои проблеми. Един от тях беше, че има хора, които просто стават много известни и имат голям успех, казвайки, че цялото това нещо с AI, което се случва, е фалшиво, то е шум, то е гигантски финансов балон, никой не използва тези инструменти, те няма да имат никакво влияние върху икономиката. Знаете ли, OpenAI ще фалира. Anthropic ще фалира.

Това е нещо като жанр на популярна критика и не са само няколко души. Чувам това от мои приятели, които не следят внимателно технологичните новини и просто се предполага, че случващото се е просто преходно и тривиално и че скоро всичко ще се върне към нормалното.

Има и друг жанр на отразяване на AI, който е чиста проба медиен шум. Той е от рода на вижте 17-те невероятни начина, по които Claude може да суперзареди вашия корпоративен SaaS бизнес. Можете да влезете в LinkedIn и да видите пример след пример за хора, които са чисто възторжени от тази технология и наистина не се интересуват да говорят за рисковете.

И двамата сметнахме, че има голяма празнина по средата за това, което Кейси нарича AI реализъм, което е основно идеята, че можете да вземете AI на сериозно, да признаете, че инструментите са мощни, впечатляващи и в много случаи опасни, и че можете да помогнете на хората да разберат това и да демистифицирате тази област, без да се подхлъзвате към прекомерен ентусиазъм, и че можете също да си прекарате добре, докато го правите.

Ще ви задам един малко груб въпрос. В доклад на Bloomberg наскоро се казваше, че и двамата сте получавали оферти до 5 милиона долара за предаването. Това е поразителна сума пари. Кевин, колко печелите?

Много повече, Кейти. Не, вижте, направиха ни добра оферта. Можехме да вземем повече пари на друго място.

Когато чух NPR, си помислих: „Няма начин NPR да даде на тези момчета 5 милиона долара“, с цялото ми уважение към NPR.

Общественото радио традиционно не е мястото, където хората отиват, за да забогатеят в медиите. Харесахме новия им главен съдържателен директор, Надин Зилстра. Тя е просто пълна стихийна сила и сме много развълнувани да работим с нея.

Сметнахме, че имат много неща да ни Thermodynamic предложат извън парите, като тяхното разпространение по радиото. Хората не осъзнават колко голямо е все още радиото. Досегът на радиото, и особено на общественото радио, все още е доста голям. Имахме това предаване, Hard Fork, през последните четири години. Изградихме доста голяма аудитория, но Times притежава това предаване и притежава канала.

Ние се стремим да развием нашето предаване възможно най-бързо и просто сметнахме, че комбинацията от ангажираност към журналистически постижения, тяхното широко разпространение и тяхната инвестиция в това да ни помогнат да развием предаването беше правилната комбинация от фактори.

Това ме довежда до друго нещо, за което ми е любопитно: Идеята, че един чудесен журналист, чудесен коментатор, може да прекара време на някое „традиционно“ място като The New York Times. Те могат да изградят бранд и след това осъзнават, че могат просто да го правят сами и всъщност вече не се нуждаят от тази институция, за да съществуват в света като талант, а често и да печелят много повече пари, отколкото биха спечелили в традиционните медии. Какво е вашето мнение по този въпрос?

Вижте, нямам нищо лошо да кажа за The New York Times. Имах девет прекрасни години там. Това беше вторият ми престой в Times. Прекарах по-голямата част от кариерата си в The New York Times и вътре в тези големи медийни институции.

Смятам, че навлизаме в такъв момент, в който поне една част от аудиторията иска да се свързва повече с личности, отколкото с институции. Просто видяхме това във вълна след вълна. Не знам. Не правя това поради идеологически причини. Правя го, защото сметнах, че е наистина вълнуваща възможност. Но наистина смятам, че организациите, които искат да задържат и привлекат много талантливи хора, просто ще трябва да бъдат по-гъвкави по отношение на този вид договорености.

Някои хора няма да искат да се откажат от своите Substacks и да влязат в медийна институция. Някои хора няма да искат цялото им творчество да се публикува от едно-единствено издание. Мисля, че има някои медийни организации, които започват да експериментират с различни, по-гъвкави начини за привличане на хора на частично работно време или да ги карат да поддържат независимата си дейност, но също така да допринасят регулярно.

Мисля, че има много начини това да проработи, но смятам, че всичко трябва да започне от признанието, че журналистическият кариерен път, при който влизаш в пощенската служба, изкачваш се по стълбицата, прекарваш 25 години при един и същи работодател и накрая ставаш редактор, а след това мениджър на редактори, се е сринал. Това е съжалително. Не мисля, че е хубаво нещо, че се е сринал, но той наистина се срина.

Мисля, че институциите трябва да се справят с факта, че сега има поколение от медийни предприемачи, за които това, което те могат да Ponудят, просто не е толкова привлекателно.

Когато мислите за таланта като част от това, когато мислите за изкуствения интелект, оптимист ли сте за журналистиката и журналистическата индустрия?

Много съм оптимистично настроен за прилагането на изкуствения интелект в журналистиката. Това е едно място, където исках да направя повече експерименти – не с това изкуственият интелект да пише вместо мен или да прави цялото ми проучване, а начини за разширяване на журналистиката чрез използване на изкуствен интелект.

Кой е примерът за експеримент, който бихте искали да направите?

Имам бивши колеги в Times, които са направили невероятен анализ на документи в мащаб, който не би бил възможен преди, използвайки сателитни изображения, за да определят дали фабрика за боеприпаси се е преместила или нещо подобно.

Това е от този тип неща, които не правя много в собствения си живот, но които бих искал да видя да се опитват от други организации, защото мисля, че това е наистина страхотно. Използвам изкуствен интелект за проучвания, редактиране и подобряване на собствената си работа от месеци насам. Намирам това за много полезно. Смятам, че калибърът на моята работа е по-добър и бих искал да видя повече институции в медиите да експериментират с тези инструменти, за да подобрят резултатите на своите журналисти. Не просто да пълнят уебсайтовете си със смет, а действително да помагат това да бъдат инструменти, които правят журналистите по-добри.

Искам да поговорим за вашата книга, The AGI Chronicles. Кога решихте: „Ще посветя години от живота и кариерата си, защото тук има книга“? Какъв беше този момент за вас, когато осъзнахте, че това е нещо наистина важно?

Знам точно кога беше. Беше в началото на миналата година, 2025 г., бях в колата на Bay Bridge, блокиран в задръстване, и просто ме връхлетя като прозрение. Беше като: следя тази история във всички подробности с години.

Интервюирал съм всички основни изследователи и изпълнителни директори в областта на изкуствения интелект. Прекарах време с научните доклади. Ходих във всички компании и отразявах какво правят. Но имаше една по-голяма история, която изпусках. Не бях се отдалечил наистина, за да се опитам да погледна по-панорамно към нещо, което беше просто странно.

Имах чувството, че живеейки в Района на залива, потопен в технологичната култура на Сан Франциско, някак бях свикнал с това и вече не ми изглеждаше толкова странно, че има тези компании, които се надпреварват да изградят машинния суперинтелект, който може или да спаси, или да унищожи човечеството.

Понякога се чувствам сякаш съм в Лос Аламос, Ню Мексико, през 1943 г., когато проектът „Манхатън“ пристига в града, а аз просто имам своя сгъваем стол, гледам как камионите пристигат и се опитвам да разбера какво се случва.

Вярвам, че тази технология е важна и че хората и компаниите, които са я създали, ще бъдат исторически важни. Така че, когато се замислих кой всъщност върши работата по записването на всичко това, се оказа, че това не е никой. Никой не го правеше.

Просто имах чувството, че би било трагедия, ако всичко това изчезне в куп съобщения в Signal и Slacks, които се изтриват автоматично, и ако накрая останем без траен исторически запис за това наистина странно десетилетие в областта на изкуствения интелект, когато нещата преминаха от това изобщо да не работят до застрашаване на бъдещето на човечеството.

Прекарах около една година в отразяване и писане. Разговарях с повече от 150 души. Вероятно трябваше да отделя повече време, защото беше много трудно и интензивно. Но мисля, че това, което се получи, е артефакт, към който хората и бъдещите системи за изкуствен интелект могат да се върнат назад и да кажат: „Ето как се случи това. Ето кой направи така, че да се случи. Ето кои бяха ключовите решения и моменти по пътя.“

Книгата проследява три ключови компании – OpenAI, Anthropic и Google – в техния стремеж към тази технология. Какви бяха вашите основни изводи за тези компании и ключовите разлики между тях, които смятате за важни хората да знаят?

Компаниите са много различни една от друга, както по състава на персонала си, така и по своите амбиции.

Да започнем с Google, защото те са най-старата. От десетилетия те имат напреднали изследователски усилия в областта на изкуствения интелект. Те бяха пионери в изкуствения интелект. Те разработиха трансформъра (Transformer), който е T-то в ChatGPT – видът основополагаща технология, на която се крепят всички останали неща, и тогава се появиха тези двама момчета, Илон Мъск и Сам Олтман, които се разтревожиха много за това колко добре се справят те, за това, че Google напредва бързо, и решиха да стартират OpenAI …

Да, откачено е и разполагаме с имейлите. Всичко е там в записите, където те на практика казват: „Трябва да създадем лаборатория, която да ги победи или поне да ги предизвика, за да не избягат с цялата игра.“ Така те стартират OpenAI, работят няколко години по това и след това този човек в OpenAI, Дарио Амодеи, взема шестима от колегите си и те напускат, за да основат Anthropic — основно за да са сигурни, че OpenAI няма да достигне първи до прага на изкуствения общ интелект (AGI). Така че цялата индустрия се породи от самата себе си. Всички тези хора са работили заедно, а сега ръководят компании, които са смъртни врагове. Бях шокиран. Това всъщност беше най-голямата ми изненада. Мислех, че това е по-скоро като Кока-Кола и Пепси, но това не е приятелска индустрия. Това е като кървава вражда.

От цялото проучване и репортажи, които направихте, на кого се доверявате? На кого се доверявате за нашето бъдеще в контекста на изкуствения интелект?

Не се доверявам на нито един отделен човек.

Това, което научих, докато правих проучването за тази книга, е, че това са хора, те са недостатъчно съвършени, правят грешки, имат моменти на слабост. Техните мотиви никога не са 100 процента чисти. Някои от тези хора са доста приятни. Някои от тях са много разсъдливи. Мисля, че в някои отношения имахме голям късмет с хората, които ръководят тези компании за изкуствен интелект, които според мен са, като цяло, много по-подходящи да създават мощни технологии и да ги пускат в света, отколкото бяха бароните на социалните мрежи.

И така, има ли съществена разлика между ерата на Facebook и тази ера на изкуствения интелект?

О, да. На първо място, те са много по-малко наивни. Знаете, че момчетата от социалните мрежи дойдоха и казаха: „Ще променим света. Ще освободим комуникацията от тесните места, които я спират. Ще разпределим ползите от технологията за всички.“

И те наистина не започнаха да мислят за проблемите, докато не започнаха да ги разпитват пред Конгреса.

Ще кажа, че някои от тези хора в сферата на изкуствения интелект говорят много за спасяването на света. Говорят много за това колко страхотно ще бъде това за човечеството.

Ако се върнете и погледнете учредителните имейли на OpenAI, те са били много последователни в това, че смятат това за потенциално много опасна технология.

Сега те се състезават към това, така че може би думите им не означават толкова много. Но мисля, че не можете да ги обвините, че са наивни, защото всички те имат толкова дълга история да казват, че: „Да, това може да бъде страхотно за човечеството, но не е даденост, че ще бъде, и трябва да го изградим наистина внимателно и обмислено, за да сме сигурни, че действително ще се развие добре за нас.“

Каква отговорност смятате, че пада върху техните плещи в контекста на безопасността на изкуствения интелект?

Това беше нещо, за което попитах всички тях в различни моменти. Като например, защо просто не спрете?

Защо се събуждате всеки ден и се опитвате да направите тези системи по-мощни, ако се притеснявате, че в някои случаи това може да доведе до край на света?

Някои от тях, включително Дарио и Сам, искрено вярват, че тази технология е неизбежна. Рецептата за изкуствен интелект не е толкова трудна. Вземате много изчислителна мощност, вземате много данни, изграждате правилната структура и развивате модела в този органичен процес на стохастично градиентно спускане и обучение с подкрепление, и накрая се появява суперинтелигентен модел.

Тяхното искрено убеждение е, че не е толкова трудно да се изгради това нещо, ако разбирате основите, и че тъй като не е толкова трудно, някой ще го направи. И независимо дали този някой е американска компания за изкуствен интелект, или китайска компания за изкуствен интелект, или терористична група, или академична изследователска лаборатория, някой ще направи това.

Така че е в най-добър интерес на човечеството някой, който мисли много за безопасността, да бъде първият, който ще стигне дотам, защото може да постави стандарти за останалата част от индустрията. Сега не знам дали напълно вярвам на това, но това е тяхната логика и това е причината да се чувстват оправдани да се събуждат и да правят това всеки ден.

Книгата завършва по интересен начин и имам няколко въпроса за това. Тя завършва, в същността си, с това, че вие казвате: „Наистина се надявам тези момчета да се справят правилно. Наистина се надявам да забавят темпото, за да мога да продължа да живея живота си по начина, по който го живея сега.“ Моментът е доста моментно съвпадение, че книгата излиза точно когато се случват тези много остри разговори около безопасността на изкуствения интелект, и имам чувството, че през ден някоя компания разкрива някакво ново нарушение, нещо, което се е объркало с някой от техните модели. Колко сте уплашен в момента, Кевин Рус?

В момента всъщност се чувствам доста изпълнен с надежда в сравнение с това къде бях преди няколко месеца и това се дължи предимно на факта, че сега водим този разговор.

Имаше хора, включително много от хората, с които разговарях за книгата, които се притесняваха от излязъл от контрол изкуствен интелект, от зловреден изкуствен интелект, от възможно завземане на властта от изкуствен интелект в продължение на 10, 15 години, които се опитваха да бият тревога за това, и никой не им вярваше. Извън техния малък балон от хора, занимаващи се с безопасност на изкуствения интелект, всички бяха нещо като: „Да, да, да.“ Сега имам чувството, че най-накрая стигнахме до този момент, в който тези неща са вътре в прозореца на Овертон.

Мисля, че част от това, което виждам в социалните мрежи и част от това, което виждам в медиите, е наистина хиперболично и е наистина драматично. Не казвам, че залогът не е драматичен, но моята оценка на ситуацията е, че ако нещо наистина се обърка ужасно с изкуствения интелект, то ще бъде много по-скучно, отколкото си мислим, и ще има повече общо с човешка грешка, отколкото понякога приписваме.

Да, напълно разбирам това и, за да бъда ясен, не казвам, че знам точно рисковете, от които трябва да се страхуваме най-много. Просто мисля, че има цяла тази категория рискове, която донякъде е била омаловажавана или просто, знаете ли, това са просто онези странници в Бъркли, които говорят за това. Сега можем да водим разговори за това.

Хората са притеснени, приемат това сериозно и мисля, че наистина имаме възможност тук, където всъщност можем да направим някои промени или да предприемем някои стъпки, за да се уверим, че това ще се развие по-добре за човечеството. Не мисля, че това беше възможно преди няколко месеца.

Така че мисля, че това е причината да се чувствам по-надежден, защото въпреки че обективно мисля, че моделите стават все по-лоши, по-страшни и по-опасни, ние също така сме много по-добре позиционирани да разпознаем, да разговаряме и може би да предотвратим тези рискове.

На онази последна страница от книгата, и не искам да ви приписвам емоция, но почувствах страх у вас и желание да не виждате живота си да се променя твърде бързо. Мисля, че това е нещо, което е много универсално.

Абсолютно. Мисля, че точно тук хората от балона на изкуствения интелект не разбират света. Смятам, че хората в компаниите за ИИ, разработващи тази технология, като цяло са хора, които харесват перспективата за големи, необявени социални промени.

Необявена социална промяна. Трудно е да си представя по-голям кошмар за мен лично.

Те просто обичат, когато нещата станат странни. Това е част от причината да се преместят в Сан Франциско. Искат да живеят в бъдещето. Перспективата за радикално преобразуване не ги плаши.

Това не ти ли изглежда като огромен проблем?

Да, защото нормалните хора не мислят така. Нормалните хора искат да живеят живот, който им е познат. Искат децата им да израснат в общество, което прилича на това, в което те са израснали. Не се справяме много добре с промените като общество и никога не сме се справяли. Но мисля, че точно затова ми се иска да имаше повече видове хора, участващи в критичните разговори около тази технология.

Защото, както казах, 50 души в Сан Франциско, повече или по-малко, взеха всички релевантни решения, а те не са представителна извадка. Те са много странни. Виждат света по различен начин. Имат по-висок праг на търпимост към промените от повечето хора и мисля, че това ги доведе до вземането на някои решения, които наистина не можем да върнем назад сега.

Искам да кажа, мислиш ли, че ако преди две години имахме повече философи, повече художници, повече творци, повече журналисти, юристи или който и да е друг, участващи в тези разговори, това наистина щеше да промени нещата, когато има толкова много пари от другата страна на този разговор?

Мисля, че това, което искам да кажа, е, че разбира се, че е много хубаво по-широка коалиция да води тези разговори, но даренията на Грег Брокман за администрацията на Тръмп му осигуряват това телефонно обаждане, нали? Те имат телефонния номер на президента. Достъпът до хората, вземащи решения, се предоставя на тези 50 души в Сан Франциско благодарение на тяхното богатство и тяхната власт.

Мисля, че това може да помогне в известна степен, и ще ти дам пример. Един от хората, за които пиша по-подробно в книгата, е Аманда Аскел. Тя е дългогодишен служител в Anthropic, а преди това е била в OpenAI. Току-що имаше статия във WIRED за търсенето на най-влиятелната жена в Силициевата долина. Мисля, че тя трябва да е там сред първите две или три.

Тя отговаря за характера на Claude. В Anthropic я наричат „майката на Claude“. Тя е специалист по етика на добродетелта. Има докторска степен по философия. Навлязла е в областта на ИИ специално за да разсъждава върху въпроса какво трябва да прави една добра система с ИИ? Как трябва да действа? Какви ценности трябва да представя? Как трябва да отказва да прави определени неща или доброволно да прави други? Как може да инсталирате нещо като етика на добродетелта в чатбот? Това беше много периферна област на изследвания. Доколкото ми е известно, тя беше първият човек, който някога е вършил такъв тип работа в една от тези компании за ИИ.

Това доведе до това те да имат наистина изтънчен начин на мислене за морала и етиката на Claude. Сега тя има цял екип. Те имат много хора, които са посветени на това, и мисля, че това вероятно е направило Claude не само по-безопасен и с по-добро поведение, но също така е вдъхновило и други лаборатории да наемат свои собствени философи и да измислят свои собствени начини за обучение на техните ИИ за нещо като морално добро.

Така че мисля, че има наистина силен аргумент да има много хора от много различни дисциплини, ангажирани с тази технология, защото това не трябва да са само инженери.

Като човек с бакалавърска степен по философия трябва да кажа, че това е период на бурен възход за моето съсловие.

В книгата имаше много неща, които за мен бяха тревожни. Какво се откроява за теб като надеждно, когато мислиш за книгата, когато мислиш за технологията? Освен факта, че всъщност можем да постигнем съществен напредък към регулирането, имаше ли нещо, което откри по време на репортерската си работа, което те накара да се почувстваш оптимистично?

Голяма част от оптимизма, който изпитвам около тези неща, е свързан с науката и медицината. Загубих баща си от рак. Познавам и много други хора, които са загубили близки от редки болести, които не са били излекувани, не защото ни липсва изобретателност, а защото е просто въпрос на ресурси и човешка сила. Мисля, че ИИ може да направи невероятни неща за хората, които страдат от заболявания. Не мисля, че всичко това са просто маркетингови глупости.

В книгата има история за системата с ИИ на DeepMind за сгъване на протеини, която спечели Нобелова награда, и има един изключително трогателен момент, в който майка на дете с животозастрашаващо генетично състояние пише на изследователите от DeepMind след този пробив и ги пита: „Може ли това да помогне на детето ми?“. Те трябва да ѝ дадат честния отговор, който е „вероятно не“, защото тези неща отнемат време. Трябва да премине през клинични изпитвания. Дори да имате тези невероятни научни пробиви, трябва да проектирате лекарствата, трябва да ги тествате, трябва да ги одобрите.

Може да мине десетилетие, преди тези неща действително да стигнат до спасяването на човешки животи. Но аз искам това да се случва по-бързо. Искам да има повече лекарства, проектирани от ИИ. Искам да ги пускаме на пазара бързо. Не искам хората да страдат от същите болести, които са убивали предишните поколения.

Така че точно тук изпитвам голям оптимизъм в момента. Попитай ме след две седмици, може да е нещо друго, но в момента точно за това се чувствам добре.

Любопитно ми е за твоя собствен процес с ИИ. Публикувал си три книги преди тази. Първата ти беше публикувана през 2009 г., много преди която и да е от тези технологии да бъде достъпна. Как промени това процеса на писане на книга за теб? Знам, че си много открит за това как използваш ИИ, понякога пораждайки доста противоречия сред колегите ти журналисти.

Има цяла секция в началото на книгата за това как използвах и как не използвах ИИ, защото сметнах за важно на първо място да бъда прозрачен.

Кевин, ще бъда прозрачен с теб. Прекарах книгата ти през Pangram.

Книгата е написана от човешко същество. Вероятно от теб.