Тази статия първоначално е публикувана в Mother Jones и е част от сътрудничеството Climate Desk.

Напоследък слушаме много за призрака на изчезването на човечеството, водено от изкуствения интелект. Може би нашето погрешно доверие в интелигентността на ИИ ще отприщи Трета световна война. Или ИИ агентите ще отприщят широкоразпространени кибератаки и ще поемат контрола над интернет. Даде ли им се твърде много автономия, машините ще вилнеят. Те могат да се опитат да измамят своите създатели — чакайте, това вече се случи. Да предположим, че стигнат до извода, подобно на агент Смит в Матрицата, че „човешките същества … са чума, а ние сме лекът“. Или може би чатботовете помагат на лоши хора да отприщят буквална чума — биологично оръжие.

Последното не е просто теоретично. Доклад за „злоупотреба“, който Anthropic оповести публично по-рано този месец, съдържа подробности за пет случая, в които чуждестранни учени са се опитали да заобиколят защитните ограничения на Claude относно запитвания за „усилване на функцията“ (gain of function). Това е еуфемизъм за случаите, когато учените модифицират гените на патоген, за да го подобрят по някакъв начин, правейки го например по-инфекциозен, по-смъртоносен или по-способен да се разпространява сред бозайниците.

Anthropic отказа на тези потребители отговорите, които търсеха, и прекрати профилите им, въпреки че отбеляза, че техните подбуди може да не са били злонамерени. Такава информация може да се използва и за да се помогне на учените да разработят countermeasures (противодействия) срещу пандемии като ваксини и лекарства. И точно тук е уловката. Както толкова много технологии, включително ИИ, генното инженерство може да се използва както за добро, така и за зло. Оттук и друг еуфемизъм: „двойна употреба“.

Учил съм за молекулярен биолог и отразявам дебата за усилването на функцията отдавна, преди ИИ да бъде в полезрението на всички. Според моя опит изследователите, които работят с високорискови патогени, са склонни да се придържат към виждането, че е по-добре да се публикува, отколкото да не се публикува, и че за нас е по-добре да извършваме работата по разбирането на това кои генетични черти правят организмите заплаха за човечеството — без да се вземат предвид потенциално катастрофалните последици от случайно или намерено освобождаване.

Дали за човечеството наистина е по-добре да извършва тази работа? Имам своите съмнения. И те се увеличиха, след като прочетох най-новата книга на Ани Джейкъбсън, с която за последно взех интервю за нейната най-продавана книга Ядрена война: Сценарий. Новата ѝ книга, Биологична война: Сценарий, излезе в края на юли и следва същия шаблон. И тъй като знам, че щяхте да попитате, да, сигурен съм, че тя е много забавна на коктейли.

Едно нещо за Джейкъбсън, която има зад гърба си десетилетия на журналистически разследвания от високо ниво в областта на националната сигурност, е нейният несравним достъп до настоящи и бивши военни и правителствени служители и учени — хора, които прекарват дните си в мислене за заплахите за човечеството и разиграват сценарии как правителството би реагирало, ако се случи такова ужасяващо нещо.

Отвъд идеята за изчезването на човечеството, може би най-ужасяващият аспект и на двете ѝ книги е свързан с ограниченията в подготовката и отговора на нашето правителство. Общият план на Америка за ядрена война беше, и без съмнение остава, пълно безумие. Що се отнася до биологичната война, разкриване на сюжета (spoiler alert), оказва се, че наистина не можем да се защитим от нея. (Няма за какво.) Редактирах нашия разговор за дължина и яснота.

МАЙКЪЛ МЕХАНИК: И така, Ани, след като вече направихте както ядрения сценарий, така и биологичния сценарий, кой от тях е по-вероятно да не ви дава да спите през нощта?

АНИ ДЖЕЙКЪБСЪН: Документът на Министерството на отбраната, който препечатах в книгата, относно спектъра на заплахата от оръжия за масово унищожение, поставя ядрените оръжия в далечния край на кривата, защото те са най-разрушителни. Но бях наистина изненадана да видя как биологичните оръжия са на близкото второ място. И вярвам, че причината те да са най-голямата обща заплаха много се свързва с дискусията, която целият свят води днес, а именно, че прагът за навлизане е изключително нисък и следователно е по-вероятно да се случи.

За да имате ядрено оръжие, трябва да разполагате с разпадащ се материал за оръжейни цели и след това трябва да мислите за ограничаване на тези оръжия в рамките на арсенала. Трябва да имате междуконтинентална балистична ракета (ICBM), бомбардировач B-2, ядрена подводница.

Да. Терорист с мръсна бомба, това е напълно различна заплаха. Компонентът, който прави биологичната война толкова невероятно опасна и най-голямата обща заплаха, е, че има девет държави с ядрено оръжие, на които е възложена тази задача по ограничаване, но след това поглеждате към останалата част от света и кой има достъп до [потенциални пандемични агенти] …

Да. И това става плашещо.

Ако бяхте дизайнер на биологични оръжия, какво бихте търсили в един патоген?

Умът ми не мисли по този начин, защото съм майка и съм член на обществото. Но ако бях планиращ пандемии, това, което би ме уплашило най-много, е концепцията за агент, пренасян по въздуха, и наивността на обществеността спрямо тази концепция. Бих се замислила колко е важно обществеността да бъде обучена за реалността на това какво представлява изключителна заплаха и какво не.

Вашият сценарий включва случайно изпускане на патоген, превърнат в оръжие, от лаборатория с висока сигурност в Русия. Въз основа на експертите, с които разговаряхте, случайното изпускане по-вероятно ли е или по-малко вероятно от това някой да разгърне биологично оръжие?

Случайното изпускане е позиционирано като много по-голяма заплаха поради няколко причини. Първо, научих, че в ЦРУ и други разузнавателни агенции има много сериозни усилия за противодействие на разпространението, за да се разстроят програмите за биологични оръжия. Дали искате да спите по-спокойно през нощта, знаейки, че ЦРУ е там и се противопоставя на тези неща, зависи от вас, но има примери за програми за биологични оръжия в ръцете на терористи, които са били спрени.

Това, което разбрах, е, че единствените хора, достатъчно луди да разгърнат или изпуснат биологично оръжие в обществото, знаейки много добре, че обратният удар ще бъде изключителен и ще създаде пандемия по целия свят, би бил някой с желание за смърт. Много терористи попадат в тази категория, така че това е дълбоко обезпокоително. Но това е по-малка група.

И тогава се замисляте за всички хора — учени, национални държави, академични институции — които манипулират патогени за по-голяма вирулентност, за по-голяма преносимост в тези BSL-3 и BSL-4 лаборатории [Biosafety Level 4 е най-високото обозначение за сигурност]. Имам предвид, че има 3600 такива лаборатории по целия свят. Няма 3600 терористични организации, доколкото ми е известно. Така че шансът за инцидент статистически е много по-голям. Ето защо започвам моя сценарий с изтичане от лаборатория, а също и защото това се е случвало и преди.

Човек може да си представи как изследовател се убожда със спринцовка в лаборатория BSL-4 и се изплашва, хората са си хора, и изпада в изтласкване/отричане и се прибира у дома.

Сто процента — и както се е случвало. След това имате и други примери, като [Николай] Устинов, за когото писах в един малък урок по история в книгата, който се убожда с фаталния вирус Марбург, за който няма лечение, и прави това, което се очаква от един добър съветски учен — докладва за себе си, след което е оставен в изолатор зад врати от тип подводничен шлюз, за да умре от ужасна смърт, причинена от хеморагична треска. Случват се инциденти.

И двамата сме писали за рисковете от изследванията с увеличаване на функцията (gain-of-function), като например пресъздаването на щамове на пандемичен грип, които могат да се разпространяват сред поровете — Господ да ни е на помощ, ако това някога излезе извън лабораторията. В книгата си пишете, че именно след 11 септември, когато някой изпращаше антракс по пощата, най-рисковите изследвания се ускориха.

Да, и мисля, че това е интересно. При антракса човек е „краен гостоприемец“, което означава, че ако го вдишате, той ще ви убие, но не е заразен. Антраксът никога не е бил предназначен да се превърне в пандемия. Целта му беше да накара хората да изпитат терзание и страх. Но нещата са съвсем различни, когато говорим за патоген, предаван по въздушно-капков път.

И така, бързо превъртаме до мястото, където се намираме днес — с [напредналото] генно инженерство, с изследванията с увеличаване на функцията, с биотехнологиите, базирани на изкуствен интелект — и имате ситуация, при която всичко е възможно по отношение на пандемичния потенциал. Можете да модифицирате нещата. Учени в лаборатория могат да работят върху създаването на патоген, който е способен да избегне съществуващия имунитет, както при експеримента с шарката по мишките, или да направят нещо преносимо по въздуха, както при експериментите с птичия грип H5N1 при порове. Сега сме в напълно различен свят.

Бях изумен, когато се обадих на този изследовател на грипа, от това колко арогантен беше той: „Разбира се, че трябва да публикувате последователността на това изключително смъртоносно нещо“. Той дори не се замисли. При някои от тези хора има такова високомерие.

Високомерие или елитаризъм, при който говорите отвисоко на непрофесионалистите, защото те не са учени. Сякаш те не могат да вземат решения относно националната сигурност или общественото здраве, защото не са учени. Намирам това за изключително тревожно. Едно от нещата с най-силно въздействие относно моите книги със сценарии, както ядрени, така и биологични, е, че експерти по темата от целия свят — хора, които пишат договорености, кардинали във Ватикана, дипломати в Обединените нации — са ми казвали: „Благодарим ви, че направихте това толкова лесно за разбиране.“

Простотата е мощна! Радвам се, че споменахте изкуствения интелект, тъй като напоследък сме заливани от екзистенциални опасения, включително доклада на Anthropic за хора, използващи Claude, за да опитат потенциално да улеснят работата си по биологични оръжия. Вашата книга изобщо не засяга изкуствения интелект. Вашите източници имаха ли сериозни притеснения, че тази технология сваля летвата още по-ниско за създаване на смъртоносни патогени?

Това изобщо не подлежи на съмнение! Избрах да не включвам биологични заплахи, подпомогнати от изкуствен интелект, в книгата, защото исках да покажа на читателите колко е лесно [дори без изкуствен интелект] за един учен в лаборатория просто да модифицира патогените на Майката Природа и да предизвика пандемия, която е събитие от мащаб, близък до пълно изчезване. Но в благодарностите пиша за много плашещата концепция за „огледален живот“ (mirror life), която Дейвид Релман, експерт по биосигурност и президентски съветник, ми обясни — при която можете да унищожите всички хора на планетата. Написах „Биологична война: Сценарий“, а не „Биологична война: Най-лошият сценарий“, което е доста лудо, като се размисли човек.

Това, което беше интересно, са експертите по темата, с които разговарях след публикуването на книгата. Наскоро бях поканена в лабораторията с ниво на биосигурност BSL-4 във Форт Детрик [в Фредерик, Мериленд] от д-р Никълъс Бергман, директора на лабораторията, за да проведа сесия с въпроси и отговори със персонала. Той обясни, че когато книгата е била публикувана, телефонът е започнал да прегрява от обаждания. Всеки [който работи там] е бил питащ: „Това наистина ли е вярно? Възможно ли е да се случи?“ И следващият въпрос на хората е бил: „Защо не знаем за това?“

Д-р Бергман ми каза: „Ани, ти изрече гласно това, което всички премълчаваха.“ И така, мисля, че фактът, че биологичните заплахи, улеснени от изкуствен интелект, нахлуха в нашето съзнание, е хубаво нещо, защото кара хората да обърнат внимание на спестените истини.

Заплахата винаги е съществувала, но няма да видите хора, които работят в тези лаборатории, да вдигат тревога. Това не е тяхната работа, както ми беше обяснено. Тяхната работа е да работят върху контрамерките. Много от техните въпроси към мен бяха за биологични заплахи, подпомогнати от изкуствен интелект — те търсеха от мен духа на времето (zeitgeist). Този разговор вече се води буквално в хранителния магазин, а също и на най-високите нива на експертиза по темата.

В книгата ви се говори за това как президентът Ричард Никсън едностранно прекратява програмата за биологични оръжия на САЩ преди много време. Вашите експерти смятат ли, че вече нямаме тайни програми?

Биологичните оръжия са незаконни и позицията на САЩ е много ясна. Държавният департамент в настоящата администрация и предишната администрация направиха декларативни изявления, че тяхната позиция е, че Русия и Северна Корея имат незаконни програми за биологични оръжия, а Китай и Иран имат програми, будищи безпокойство — което аз приемам като ефемизъм.

Предвид вероятността дадено биологично оръжие да се обърне срещу своя създател, наистина изглежда, че всяко умишлено пускане би трябвало да бъде дело на недържавен атакуващ, който може би не се интересува толкова дали ще живее, или ще умре.

За да проследя тези сценарии и да разбера как се развиват, разгледах симулативните военни игри за биологична война на Пентагона, а също и некласифицираните сценарии на планиращите действия при пандемии. Бивши служители в областта на общественото здравеопазване и хора на ниво кабинет се събират и провеждат тези упражнения. За едно от тях, което цитирах в книгата, наречено Glade X, те използваха екотерористична група, която генетично е модифицирала вируса Нипа, за да го направи по-заразен. В този сценарий идеологическата позиция на екотерористите беше, че има твърде много хора, които съсипват Земята, така че нека да намалим населението.

Звучи като агента от „Матрицата“: „Хората са вирус.“

Планиращите действия при пандемия измислят тези много драматични сюжети, за да разиграят и разберат как биха се развили тези ситуации, и точно оттам идват повечето от моите основни сюжетни точки, ако мога така да ги нарека.

Заели сте и някои детайли от Covid, включително епидемията на борда на круизния кораб Diamond Princess, с изключение на това, че вашият патоген е много по-смъртоносен.

Да. И когато проучвах Glade X, бях изумена да науча, че правителството е дълбоко притеснено от масово изселване — в този сценарий това бяха хора от Венецуела, си проправящи път към Пуерто Рико с лодки. И какво би се случило, ако ВМС на САЩ трябваше да открият огън по заразени лица в плавателни съдове, щурмуващи Карибите. Изглежда недостоверно, докато не прочетете, че тези сценарии за планиране при пандемия се обмислят сериозно от правителството.

Един от ключовите аспекти на вашата книга е крехкостта на нашия обществен ред при сценарий на чумна епидемия. Толкова много зависи от това как реагират хората и как реагират властите.

Интервюирах [определения от запаса от ВВС] полковник Том Ерхард, който е ръководил сценарии за военни игри в Пентагона. Това са сценарии за катастрофални нива на ядрени и биологични заплахи, провеждани за Канцеларията на министъра на отбраната [чрез] легендарна организация, наречена Служба за оценка на нетното въздействие (Office of Net Assessment). Ерхард ми каза: „Няма реална защита срещу мащабна биологична атака, има само неща, които можете да направите, за да смекчите унищожението.“

Това е шокиращо нещо, което да чуеш от човек, който е разигравал тези сценарии за Пентагона въз основа на разбирането за това как функционира правителството и как ще реагират хората.

Като почитател на Devo, ми беше интересно да науча, че „деволюцията“ (devolution - децентрализация/предаване на правомощия) е част от планирането на нашето правителство. Бихте ли разказали за това?

Групата Devo! Те бяха популярни през 80-те години. Мисля, че все още съществуват.

Нима това е било препратка към деволюцията?

Да, но тяхното нещо беше регресът (деволюцията) на американската култура.

Не знаех това. Деволюцията е действителен план, за който научих от бившия директор на FEMA при [президента Барак] Обама, Крейг Фюгейт. Той се задейства в случай на катастрофално биологично събитие като това, което описвам, и при избухване на анархия — което се очаква въз основа на страха на населението от инфекция и осъзнаването, че няма достатъчно медицински средства за противодействие, ако въобще има такива.

Анархията води до бунт. Президентът обявява Закона за потушаване на бунтовете (Insurrection Act) и в този момент, когато нещата наистина излизат извън контрол, нивото на „готовност за приемственост на правителството“ (COGCON) се повишава до Ниво 1, което е най-екстремното.

С COGCON 1 идва и задействането на плана за деволюция. Той включва предварително определен набор от лица, отделни от избраните, назначенията или тези в правителството, като всички те знаят кои са и са подписали договор, поемайки ангажимент за своите отговорности. Те незабавно напускат района на Вашингтон за поредица от секретни бункери, разположени в цялата страна. Знаем само, че те се наричат горещи, студени и топли бази. И тези лица отиват там и практически изчакват преминаването на катастрофата, за да могат да възстановят правителството.

Изглежда като нещо, изтръгнато от страниците на антиутопичен роман.

Наистина е така. Планът е засекретен. Името му изтече в пресата преди около десетилетие, така че служителите на FEMA решиха да разсекретят името и ето защо Фюгейт можа да говори малко за това, а аз успях да представя информация, която позволява на въображението ви да се задейства.

Вие избрахте особено лош, превърнат в оръжие щам на бактерията на чумата Yersinia pestis за вашия сценарий. Защо точно този патоген?

Особено се интересувам от чумата, защото имаме цялата тази история и можех да черпя от разкази, написани от съвременници и оцелели. Беше разкриващо да видя пълното опустошение на човечеството, моралната цена. Позовавам се на голяма част от това в книгата, за да дам на читателите представа какво всъщност се е случило: пандемия, която е убила 150 милиона души, до половината от населението на Европа.

Мислим за чумата като за болест от миналото заради антибиотиците. Удивително е, че сме тук, в ерата на толкова напреднали технологии, че сега се притесняваме машините да не станат по-умни от хората, а се връщаме към ситуация, в която поради науката и технологиите медицинското средство за противодействие на антибиотиците може да бъде занулено. Ето защо избрах чумата: защото тя изглежда като тази мрачна метафора за двете различни приложения на науката и технологиите — едното за добро, а другото за зло.

Вашата статия за грипа ли беше тази, в която някой каза: „Ами, ние няма просто да спрем да правим ножове, защото ножовете могат да убиват хора?“

Да, това беше арогантният учен, изследващ грипа. Той спомена и самолетите. Беше не много отдавна след 11 септември.

Да! Няма да спрем да правим самолети! Прекарах кариерата си в размисли за намерението и това е човешкият компонент във всичко това. Бях изумен да науча, че съветските власти са имали тази изключително мрачна, зловредна и много напреднала програма за чума — оръжие за супер чума, което са разработвали — и това е било преди 30 или 40 години, когато генетичното инженерство е било в ранен етап. Интервюирах от ЦРУ и британското разузнаване кураторите на тези съветски учени-бегълци, които са дошли тук и са казали на тези [разузнавателни служители] какво са правели, така че успяхме да чуем неща като това, че намерението им е било да убият всички хора и да оставят инфраструктурата непокътната. Това не можеш да си го измислиш.

Ще трябва да инокулирате цялото си население — и може би това нямаше да проработи, докато патогенът се циркулира обратно до вас.

Съветският съюз беше до голяма степен замък на хълм. Стената все още не беше паднала, когато те създаваха супер оръжието от чума. А руснаците не че са летели до Париж за уикенда, така че може би е имало тази идея: „Ще инокулираме всички с ваксина срещу чума, а Западът може да измре и ние ще маршируваме по-късно и ще поемем контрола.“

Вие също така посочвате, че чумата е била може би първото биологично оръжие — когато армия от 14-ти век, водена от потомък на Чингис хан, хвърля заразени с чума трупове през стените на Република Генуа.

Да, тя има дълга история и е нещо, което планиращите борбата с пандемиите и създателите на военни игри в Пентагона смятат за много сериозна заплаха. Белодробната чума се предава по въздушно-капков път, със 100 процента смъртност.

Няма много неща с такъв процент смъртност.

Само вирусът на беса и чумата. Така че работата по заличаването на съществуващото медицинско средство за противодействие на антибиотиците от болест със 100 процента смъртност [както са направили съветските учени] — това е мрачно.

Вие дори направихте вашата чума химера — два патогена в един!

Само защото съветските учени са го направили през 80-те години.

Мислите ли, че такива демонични неща все още съществуват в Русия?

Не мога да си представя да не съществуват. Според начина, по който Държавният департамент го описва, незаконната програма от съветската ера е била абсорбирана в новата руска програма. Което е дълбоко обезпокоително.

И така, какво предстои във вашия дневен ред? Още ужасяващи сценарии?

[Смее се.] В благодарностите си пиша, че целта не е паника. Целта е натиск. По време на турнето за книгата толкова много хора [които бяха чули, че книгата ми е ужасяваща] казаха: „Прочетох я и всъщност се чувствам по-малко уплашен.“

Започвате да осъзнавате, че има екзистенциални страхове, които се основават на хипотетична безпокойство, и след това има реални заплахи, за които трябва да знаете. Надявам се книгите ми да допринесат за тази част от разговора.