Опасенията от предизвикан от изкуствен интелект апокалипсис достигат връхната си точка – от Силициевата долина до Вашингтон.

Една от водещите теории за това как един излязъл от контрол AI ще ни унищожи? Биологични оръжия.

По-рано това лято изпълнителни директори на компании за AI призоваха за нови закони за регулиране на производството на синтетична ДНК. Миналия месец изследователи от Станфордския университет и Arc Institute показаха, че AI може да проектира нови вирусни геноми. Ide-ята придоби още по-голяма популярност миналата седмица, след като Anthropic публикува доклад, показващ опити за използване на Claude по начини, които „биха могли да подпомогнат разработването на биологични оръжия“. Авторите на доклада посочват биологичната злоупотреба като „един от най-сериозните рискове при авангардните AI модели“. Малко след това главният изпълнителен директор Дарио Амодеи призова правителството да помогне на лабораториите за AI да „контролират темпото на развитие“.

Въпреки тревогата около създадена от AI фатална пандемия, много учени смятат, че този риск е сравнително назад в списъка със световни проблеми.

Дейвид Белами, изследовател в Institute of Foundation Models в Сънивейл, Калифорния, не вижда в лицето на AI фундаментално нова заплаха, що се отнася до създаването на биологични оръжия. Научната общност от десетилетия се бори с въпроса дали да публикува потенциално опасни биологични изследвания – проблем, известен като дилемата за двойна употреба.

Преди появата на големите езикови модели, самият интернет, списанията с свободен достъп и услуги за превод като Google Translate вече улесниха достъпа до биологична информация, включително лабораторни протоколи, казва Белами.

„AI е основно инструмент, който може да помогне както на добронамерени субекти като учените, така и на автори на заплахи да преглеждат информация по-бързо и да дефинират и намират тези протоколи по-съкратено“, добавя той. „Но тези възможности всъщност не са основната пречка при производството на биологични оръжия.“

Истинското тесно място, според него, е процесът на сглобяване на вирус или друг биологичен агент, както и суровините, оборудването и знанията, необходими за това. Един злонамерен субект би трябвало да си набави необходимите генни фрагменти, да изгради целия геном от нулата, след което да потвърди, че вирусът може да инфектира хора, да причинява желаното заболяване и да се предава от човек на човек. Роботизираните лабораторни асистенти могат да автоматизират някои задачи и да ускорят работните процеси до известна степен, но на даден човек все още са му необходими знания за провеждането на тези експерименти и ресурси за тяхното осъществяване.

Джейсън Кели, главен изпълнителен директор на биотехнологичния стартъп Ginkgo Bioworks, смята за малко вероятно общ изкуствен интелект (AGI) да може да овладее и разпространи съществуващи патогени, камо ли да създаде нови и да ги използва. Ginkgo Bioworks е специализирана в създаването на автономни лаборатории и наскоро проведе проект с OpenAI, при който моделът GPT-5 е управлявал лаборатория.

„AI не можа да пое контрола над лабораторията“, казва той, отчасти защото хората, работещи вътре, просто можели да откажат да доставят на бота веществата и оборудването, които той изисквал за физическото производство на биологично оръжие. Всички тези досадни хора, действащи като контролни механизми, означават, че „ще трябва да имате драматично повече роботи навсякъде“, казва той, за да може AGI да разположи машини, които да извършват често деликатната вирусологична работа.

Имунологът Дерия Унутмаз също казва, че хората биха могли да осуетят всеки опит на AGI да разработи смъртоносна болест. Дори ако злонамерен сверхинтелект по някакъв начин успее да пусне супервирус, той твърди, че учените ще могат да използват други AI системи за бързо разработване на ваксина.

Все пак, дори някои хора, които не смятат, че самостоятелното използване на биологично оръжие от AGI в момента е реална заплаха, се притесняват от злонамерени субекти, използващи технологията, както и от това какво може да се случи занапред.

„Невъзможно е за AI да достигне до напълно автономна лаборатория и самостоятелно да създаде вирус днес, защото напълно автономни лаборатории все още не съществуват“, казва Оливия Шарфман, сътрудник по биотехнологии в мозъчния тръст Institute for Progress. „Но смятам, че един AI би могъл да плати на някого да го направи вместо него.“

Тя смята, че подпомаганият от AI биотероризъм е непосредствена заплаха и че има групи, които са достатъчно нихилистично настроени, за да го направят, включително „трансхуманистични привърженици на AI последователството“ – хора, подкрепящи маргинална идеология, които се надяват да заменят хората с ботове.

Други експерти не се притесняват толкова от биологично оръжие, създадено от AI, защото не смятат, че биологичната война има особен методологичен смисъл. „Рисковете са донякъде погрешно разбрани“, казва генетичният биолог и професор по изчислителна биология Франсоа Балу пред WIRED, като отбелязва, че хората са склонни да „надценяват стойността на патогените като оръжие“.

Като оставим настрана въпроса за AGI, Балу казва, че биологичните оръжия просто не са особено привлекателен избор за потенциални извършители на геноцид, особено след като е трудно да се насочат към определени групи и да се щадят други, а масовото производство и разпространение на патогени е логистично сложно в сравнение с, да речем, хвърлянето на бомба. „Ако искате да убивате хора, има много, много по-добри начини да го направите, отколкото да се опитвате да създадете вирус или бактерия и след това да ги пуснете“, казва той – независимо дали сте най-усъвършенстваният изкуствен ум, създаван някога, или просто обикновен човек.

Тъй като AI поставя заплахата от биологични оръжия на фокус, Шарфман казва, че това е подходящият момент за настояване за по-добра защита срещу всички биологични заплахи, включително съществуващи патогени като H1N1. Това може да включва действия на високо ниво като приемане на законодателство за подобряване на протоколите за сигурност около технологията за синтез на ДНК, но тя също така се застъпва за промени за намаляване на риска от всички вируси, като модернизиране на системите за пречистване на въздуха в сградите.

Дали AI доказано повишава риска от разработване на биологични оръжия е труден за отговор въпрос, казва Стеф Гера, ръководител на направление „AI и био“ в Rand Corporation. „Показано е, че AI е много добър в интегрирането на информация и в мотивирането на хората да правят както добри, така и лоши неща“, казва тя.

Дори рискът да е нисък, Гера казва, че все още има начини обществото да се предпази от потенциална злоупотреба. Един от тях е правителствата да приемат закони, изискващи от компаниите, които продават синтетична ДНК и РНК, да проверяват клиентите и поръчките, за да се предотврати злоупотребата с генетичен материал. Много компании вече използват софтуер за проверка на поръчки за така наречените „рискови последователности“, но тази практика не е universalна или задължителна.

Преди обаче злонамерен субект да стигне до тази точка, почти всички са съгласни, че моделите трябва да имат съответните защитни механизми, така че да не предоставят приложима и опасна информация на хората.

Гера казва, че рискът от биолочична заплаха, разработена от AI, може да бъде намален и чрез укрепване на глобалните системи за наблюдение за откриване на огнища на нови болести и циркулиращи патогени възможно най-рано. Тя допълва, че протоколите за споделяне на данни между компании за AI, доставчици на синтез на гени и правителството също могат да спомогнат за предотвратяване на злоупотреби.

„При почти всяка мярка за биосигурност ще има начини тя да бъде заобиколена“, казва той. „Ето защо се нуждаем от многослойни подходи, които оказват съпротива по целия път – от идейната фаза и намерението на злонамерен субект до самия пуск на биологично оръжие.“

Унутмаз казва, че има още по-спешна грижа: че всички разговори за апокалипсис от AI отклоняват вниманието от това как авангардните системи могат да помогнат на хората в разработването на ваксини и други медицински открития.

„Наистина трябва да се фокусираме върху позитивния аспект на това“, казва той.