С години много от най-влиятелните личности в Силициевата долина твърдяха, че САЩ са въвлечени в надпревара във въоръжаването в областта на изкуствения интелект (ИИ) с Китай и че последиците от евентуална загуба биха били катастрофални. През последната седмица обаче същите тези ръководители започнаха да наблягат на различно послание. Изкуственият интелект има потенциала да стане толкова опасен, твърдят технологичните лидери, че двете страни спешно трябва да работят заедно, за да забавят надпреварата.
„Глобалното темпо ще изисква сътрудничество с Китай — автократичната страна с най-напреднали възможности в областта на ИИ от разстояние“, написа главният изпълнителен директор на Anthropic Дарио Амодеи в публикация в блога си, публикувана в събота със заглавие „Трябва да регулираме темпото на авангардните технологии“.
Правителството на Китай и китайските компании за ИИ ясно заявиха, че са изключително скептични към предложението на Амодеи, но не защото искат сляпо да продължат да се състезават или не вярват, че технологията крие сериозни рискове. Проблемът, който виждат китайското правителство и китайските компании, е далеч по-прост. Те смятат, че им се предлага неизгодна сделка.
„Общността за безопасност на ИИ в Китай нараства и споделя много от същите притеснения, които имат и американските лаборатории“, казва Кевин Сю, основател на технологичния хедж фонд Interconnected Capital и бивш служител в Белия дом при президента Барак Обама. „Пропастта се дължи на факта, че визията, водена от Anthropic, първо би подчинила и ограничила Китай, за да максимизира лостовете си за влияние, преди да преговаря. В същото време Китай би преговарял само ако е третиран от позицията на равнопоставен партньор.“
Амодеи написа, че „ключова част“ от стратегията за забавяне трябва да бъде гарантирането, че САЩ и другите демократични държави поддържат „възможно най-голяма“ преднина в развитието на ИИ пред автокрации като Китай. За да се постигне това, той призова САЩ да предприемат стъпки, включващи противодействие на контрабандата на чипове и предотвратяване на неоторизирана дестилация на модели от страна на китайски компании.
„Неговото есе изрично посочва, че темпото на развитие на ИИ е условие за увеличаване на преднината пред Китай“, казва Алвин Уанг Грейлин, старши сътрудник в Центъра за анализ на Китай към Asia Society Policy Institute и сътрудник в Института за ориентиран към човека ИИ към Станфордския университет. „Това кара предложението да изглежда неискрено за китайските читатели.“
След това Амодеи направи това, което може да изглежда като смел логически скок: той твърди, че отслабването на китайската ИИ индустрия по някакъв начин ще даде на САЩ по-големи лостове за влияние и ще направи „споразумението по-вероятно в бъдеще“. Не се обяснява как точно това трябва да подтикне Пекин да седне на масата за преговори. (В защита на Амодеи трябва да се отбележи, че по-късно той призна в телевизионно интервю, че „няма представа как да преговаря с Китай“.)
Правителствените служители, изследователите в областта на ИИ и други видни коментатори в Китай, които отговориха на Амодеи, не са твърдели, че изкуственият интелект не носи рискове. Но много от тях ясно недоволстват от идеята страната им едновременно да бъде третирана като основен партньор в управлението на технологията и като конкурент, който трябва да бъде ограничен.
Запитан за публикацията на Амодеи в понеделник на пресконференция, Го Дзякун, говорител на Министерството на външните работи на Китай, не спести думи: той описа предложението като „насаждане на страх, конфронтация и жестока конкуренция“, които само биха попречили на глобалните усилия за сътрудничество в областта на ИИ. На следващия ден министерството също така подчерта, че „Китай поставя равен акцент върху развитието и сигурността по отношение на изкуствения интелект“.
Разнородните коментари отразяват друга причина, поради която Пекин може да е по-малко приемствено настроен към предупрежденията на изпълнителния директор на Anthropic в сравнение с друга аудитория. За разлика от много от най-гръмките гласове в Силициевата долина, китайските лидери не се притесняват основно от така наречените екзистенциални рискове от ИИ, като например възможността неконтролируем субект да унищожи човечеството. Както и в много други области на политиката, основното безпокойство на Пекин е, че ИИ може да наруши вътрешната социална стабилност или да застраши властта на Китайската комунистическа партия.
„За Пекин е трудно да приеме тези призиви за чиста монета, отчасти защото е скептичен относно възможността за постигане на общ изкуствен интелект (AGI) и се съмнява в твърденията, че ИИ представлява екстремен риск за човечеството“, казва Мишел Ние, гостуващ сътрудник в Center for a New American Security, фокусирана върху националната сигурност и изкуствения интелект. „Въпреки че Пекин започва да признава рисковете от загуба на контрол, рискът, от който Пекин изглежда се притеснява най-много, е заплахата, която ИИ може да представлява за управлението на ККП.“
В скорошно есе китайският министър на държавната сигурност Чън Исин предупреди, че ИИ може да подхрани политическа дезинформация, кибератаки, шпионаж, социално недоволство и нови военни заплахи. Той обърна далеч по-малко внимание на апокалиптичните сценарии, които често вълнуват хората в американските лаборатории за водещ ИИ.
„Китайските вземащи решения лица са склонни да разглеждат призивите на американските компании за сигурност на ИИ като користни“, казва Ние. „Те вярват, че американските компании се опитват да раздуят собствената си стойност преди евентуални първични публични предлагания (IPO) или да забавят своите конкуренти, които на този етап са предимно китайски компании.“
Този скептицизъм се споделя и от много хора, работещи в китайската ИИ индустрия, която като цяло е фокусирана върху пускането на по-евтини модели с отворени тегла. В широко разпространено есе, публикувано в неделя, изследовател от DeepSeek заявява, че според него ИИ може да тласне човешкото общество към една от две крайности. При първата мощен ИИ е широко достъпен и повишава стандарта на живот. При втората шепа технологични компании контролират най-напредналите системи и ресурсите, свързани с тях, което прави още по-трудно за всички останали да ги догонят.
„Ето защо все още вярвам, че най-напредналият интелект трябва да бъде достъпен за всички по отворен и достъпен начин“, пише инженерът от DeepSeek. „Нямам доверие на Anthropic или OpenAI, че ще направят това. И особено не искам Anthropic да контролира най-напредналия изкуствен интелект или AGI.“
Нищо от това не означава, че сътрудничеството между САЩ и Китай относно безопасността на ИИ е обречено. Според информации вече се водят предварителни преговори между двете страни преди планираното посещение на китайския лидер Си Дзинпин във Вашингтон по-късно този месец за среща с президента на САЩ Доналд Тръмп.
Има достатъчно причини за надежда, че тези дискусии ще доведат до известен напредък, макар и поетапен. И двете правителства изразиха притеснения относно едни и същи въпроси, включително заплахи за киберсигурността, злоупотреба с мощни модели и възможността все по-способните ИИ системи да се държат по неочакван начин.
„И от двете страни има хора, които искрено се грижат за безопасността на ИИ, и съществува възможност те да влязат в добронамерен диалог по тесен кръг от въпроси“, казва Ние. Това, което би могло да донесе най-голям напредък, според нея, е разработването на надежден начин всяка страна да проверява дали другата спазва поетите ангажименти.
Все пак други се опасяват, че реториката на Амодеи и други американски технологични лидер за отслабване на Китай може да разклати крехкото доверие, от което зависят дипломатическите преговори. Кристи Лоук, изследовател в организацията с нестопанска цел за безопасност на ИИ MATS Research, казва, че посланието на Амодеи в крайна сметка може да постигне обратен ефект. „Дарио подкопава един от малкото налични лостове за намаляване на същите рискове, които твърди, че приема сериозно“, казва тя.