Започнаха преговори между служители на САЩ и Китай относно създаването на механизъм, чрез който двете страни да се уведомяват взаимно при инциденти с изкуствен интелект, които биха могли да застрашат националната сигурност.
Рамката, наречена „Диалог за ИИ между САЩ и Китай“, предвижда също представители на двете държави да се срещнат отново, за да обсъдят технологията и да се опитат да уеднаквят позициите си относно съвместните цели и заплахи, заяви министърът на финансите Скот Бесент.
„Смятаме, че както при всяка трансгранична дейност, преминаването от непрозрачност към по-голяма прозрачност между първата и втората сила в областта на ИИ в света е изключително важно“, заяви Бесент пред журналисти в неделя.
Бесент посочи, че дискусиите са продължили от там, където са били прекъснати след посещението на американския президент Доналд Тръмп в Пекин през май. Оттогава опасенията на обществеността относно безопасността на технологията нараснаха. Инцидентите със сигурността през лятото, включително хакването на Hugging Face от агенти на OpenAI, подчертаха възможностите на водещите модели и начина, по който защитните механизми в индустрията не успяват да поддържат същото темпо.
Опасенията достигнаха силен връх по-рано този месец, след като служители на Anthropic предупредиха, че ИИ може да бъде на път да унищожи човечеството. През последните седмици ръководителите на най-големите лаборатории за авангардни модели, включително Сам Олтман от OpenAI, Дарио Амодеи от Anthropic и Илон Мъск, призоваха за забавяне на разработването на технологията, докато се определят стандарти за безопасност. В есе, предлагащо стъпки за лабораториите и правителствата за регулиране на темпото на развитие на технологията, Амодеи поиска съдействие от правителството за установяване на международна координация, включително с Китайската комунистическа партия.
Досега Тръмп до голяма степен отхвърляше техните призиви, въпреки нарастващата двупартийна подкрепа за регулиране на индустрията. Американското правителство вече разполага с достатъчно наказателни и регулаторни правомощия над разработчиците, твърди неговата администрация.
Той не е единствен. Дженсън Хуанг, главен изпълнителен директор на Nvidia, която изгражда инфраструктура за ИИ, изтъкна,телно че компаниите за ИИ вече подлежат на закони за киберсигурност и отговорност за щети. „Приложете първо тях“, каза той в интервю за CBS News през уикенда. „Не позволявайте на този апокалиптичен разказ да позволи на някого да ги освободи от съществуващите закони.“
Тръмп заяви, че всяко забавяне може да отстъпи лидерството на САЩ в технологията на Китай – опасност, защото по неговите собствени думи: „КОЙТО СПЕЧЕЛИ ИИ, ПЕЧЕЛИ!“ Неговият главен съветник по науката Дейвид Сакс по-рано предупреди, че „е много малко вероятно Китай да се присъедини към глобално споразумение“ за забавяне на темпото на технологията. Тома Волф, съосновател на платформата за ИИ с отворен код Hugging Face, която Nvidia наскоро се съгласи да закупи, постави под въпрос дали САЩ могат да изградят глобално сътрудничество, докато „изрично заявяват, че искат да го проектират така, че да продължат да увеличават собственото си предимство“. „Това ми изглежда като доста противоконституционен начин да се започне разговорът“, написа той в X в отговор на есето на Амодеи.
В момента САЩ се опитват да ограничат напредъка на Китай в областта на ИИ чрез ограничаване на износа на модерни чипове и технологии за производство на чипове за Китай. Служителите не са обсъждали тези контроли върху износа на САЩ по време на срещите този уикенд, каза Бесент, които също така включваха търговски дискусии и бяха „много успешни“ преди посещението тази седмица във Вашингтон на китайския президент Си Дзинпин.