Надпреварата в областта на изкуствения интелект (ИИ) дълго време беше представяна като игра с нулев резултат: накрая ще спечели или САЩ, или Китай. Но с натрупването на опасения около нарастващите възможности на ИИ моделите — особено на ИИ агентите — изследователи в двете страни се опитват да се обединят, за да работят по безопасността на ИИ. Тази седмица Зоуи Шифър разговаря със старши автора Уил Найт за това какво е видял и чул на място при посещението си в Китай това лято — и защо двете страни всъщност може да се наложи да започнат да работят заедно, за да избегнат голяма катастрофа с ИИ.

Това е нашият втори епизод от поредицата за лятната ни ваканция. Ще се върнем следващата седмица с обичайната ни кръгла маса.

Статии, споменати в този епизод:

  • „Срещнах се с водещите експерти по ИИ в Китай. Те също са изплашени“
  • „Хакерските атаки с ИИ са лоши. Червеите и вирусите с ИИ ще бъдат по-лоши“
  • „Хуманоидният робот на бъдещето е висок 6 фута здравеняк с китайско тяло и американски мозък“

Можете да последвате Зоуи Шифър в Bluesky на @zoeschiffer и Уил Найт в Bluesky на @willknight. Пишете ни на [email protected].

Ако използвате iPhone или iPad, отворете приложението Podcasts или просто докоснете тази връзка. Можете също така да изтеглите приложение като Overcast или Pocket Casts и да потърсите „uncanny valley“. Има ни и в Spotify.

Забележка: Това е автоматичен транскрипт, който може да съдържа грешки.

Зоуи Шифър: Това е „Uncanny Valley“ на WIRED. Аз съм Зоуи Шифър, сътрудничещ редактор. Ако сте следили технологичните новини това лято, и определено ако сте слушали предаването, вероятно вече знаете, че Китай присъстваше доста често в заглавията, особено когато става въпрос за надпреварата в ИИ. Отворените модели на страната продължават да скъсяват дистанцията с водещите модели на САЩ на цена, която според някои оценки е малка част от техните разходи. На свой ред САЩ запазиха строгите си ограничения върху чиповете и експортния контрол, за да забавят възхода на Китай. Мислим за напредъка на ИИ в много отношения като за нулева сума — ако Китай спечели, САЩ губят, и обратното. Но има опасение, което наистина надхвърля тези граници, и то е за безопасността на ИИ.

Архивен аудиозапис: Рисковете за киберсигурността от ИИ са на преден план, след като в множество случаи ИИ агенти както от OpenAI, така и от Anthropic излязоха извън своите изолирани среди.

Зоуи Шифър: Новините за ИИ агенти, които хакват платформи, добавиха спешност към този въпрос през лятото. На свой ред държавните служители бяха принудени да обърнат внимание и да предприемат действия по регулирането на ИИ.

Архивен аудиозапис: Президентът Тръмп подписа указ, с който изисква от технологичните компании да предоставят на правителството надзор над новите ИИ модели преди публичното им пускане.

Зоуи Шифър: И така, биха ли могли САЩ и Китай всъщност да спечелят от съвместна работа? И какво би било необходимо, за да се случи това изобщо? По-рано това лято старшият кореспондент на WIRED Уил Найт посети Китай, за да потърси отговори. Уил Найт, благодаря ти много, че си тук.

Уил Найт: Благодаря за поканата.

Зоуи Шифър: Добре, искам да започна с твоето пътуване. Ти отиде в Китай по-рано това лято и по онова време в САЩ не се чуваше толкова много за безопасността на ИИ. Всъщност изглеждаше, че с втория мандат на Тръмп в Белия дом рамката беше „САЩ трябва да спечели“, а безопасността на ИИ почти започна да звучи като пречка за растежа. Но ми е любопитно какво чуваше и виждаше в Китай по отношение на безопасността на ИИ.

Уил Найт: Да, връщайки се може би година или шест месеца назад, забелязах много повече изследвания за безопасността на ИИ, идващи от Китай. И така, отидох на тази конференция в Пекин, организирана от една от градските лаборатории, които имат там. Те имат такива в Пекин, Шанхай и на други места. И се оказа, че безопасността на ИИ беше наистина голяма тема. Много е ясно, че това е нещо, от което изследователите се интересуват. И всъщност, при посещенията в лаборатории и компании, въпросът за безопасността на ИИ изникваше много често.

Зоуи Шифър: Може ли да попитам, когато говорят за безопасност на ИИ, това превежда ли се като ограничения? Защото също така знаем, че Китай заложи изцяло на отворените модели, при които идеята е, че хората могат да ги изтеглят, да ги променят и да ги използват за каквито цели си поискат.

Уил Найт: Е, не е чак толкова просто, защото в Китай например това, което вашите модели могат да казват, е по-строго контролирано и всъщност има доста регулации около ИИ. Така че компаниите изграждат тези отворени модели, но след това всеки, който ги пуска в интернет, трябва да бъде много внимателен за това какво правят. А напоследък има огромен интерес към агентите и неща като OpenClaw. Това е наистина голяма тема. И едно от нещата, които са ми интересни, поне когато става дума за съпоставяне на ИИ в Китай и САЩ, е, че хората там изглеждат по-малко пленени от идеята за общ изкуствен интелект (AGI) и създаването на този дигитален бог, а са по-ориентирани към това как това всъщност ще бъде полезно и дали вие като бизнесмен или като отделен човек реално го използвате. Така че много хора се заинтересуваха изключително бързо и приеха технологии като OpenClaw, след което видяха как нещата могат да се объркат. Затова има голям фокус...