Тази седмица в „Uncanny Valley“ екипът обсъжда стартирането на шумния съюз на Nvidia за насърчаване на сигурността на изкуствения интелект с отворен код, съвместно с компании като Microsoft, SpaceX и Palantir. Забележително отсъстващи? OpenAI и Anthropic. Брайън Барет, Зоуи Шифър и Лия Фейгър анализират какво означава това разделение за индустрията, както и променящите се мнения на администрацията на Тръмп относно изкуствения интелект. Освен това обсъждаме как разговори с Claude се появиха в резултатите от търсенето в Google и Bing, както и мащабното постижение по спасяването и транспортирането на четири кита от Канада до Чикаго.

Статии, споменати в този епизод:

  • Лични чатове в Claude изложени в резултатите от търсенето на Google и Bing
  • Силициевата долина е напълно разделена относно китайския изкуствен интелект
  • Администрацията на Тръмп е във война със себе си относно регулирането на ИИ
  • Вътре в дивата спасителна мисия, която отведе 4 белуги в Чикаго
  • Бюлетин System Update: Най-доброто от WIRED

Можете да последвате Брайън Барет в Bluesky на @brbarrett, Зоуи Шифър в Bluesky на @zoeschiffer и Лия Фейгър в Bluesky на @leahfeiger. Пишете ни на [имейл защитен].

Ако сте на iPhone или iPad, отворете приложението Podcasts или просто докоснете тази връзка. Можете също да изтеглите приложение като Overcast или Pocket Casts и да потърсите „uncanny valley“. Има ни и в Spotify.

Забележка: Това е автоматичен транскрипт, който може да съдържа грешки.

Зоуи Шифър: Добре дошли в „Uncanny Valley“ на WIRED. Аз съм Зоуи Шифър, сътрудничещ редактор.

Брайън Барет: Аз съм Брайън Барет, главен редактор.

Лия Фейгър: Аз съм Лия Фейгър, директор по политика и наука.

Зоуи Шифър: Днес в предаването се потапяме в дебата за изкуствения интелект с отворен срещу затворен код, който напълно завладя Силициевата долина през изминалата седмица. В понеделник Nvidia обяви, че обединява усилията си с цял куп компании, включително Microsoft, SpaceX, IBM, за изграждане и споделяне на инструменти за сигурност на ИИ с отворен код. Ще навлезем в дебата защо той се нажежава и дали това може да бъде повратна точка за начина, по който изкуственият интелект всъщност се създава в Съединените щати.

Лия Фейгър: А в Белия дом служителите на администрацията на Тръмп имат някои различни мнения за това какво да се прави, когато става въпрос за ИИ. Ще говорим за някои от ключовите фигури, влияещи върху администрацията на Тръмп в момента по отношение на политиката за ИИ, и как те активно оформят разговора за това за цялата страна.

Брайън Барет: Ще анализираме и защо чатове в Claude са били изложени в търсенето на Google и търсенията в Bing. За тези от вас, които все още са на Bing, вие също сте в кюпа. По интересни причини, ще стигнем до това.

Зоуи Шифър: Добре, хора, трябва да поговорим за този странен съюз, който се формира по-рано тази седмица. И така, основно Nvidia обяви, че обединява сили с повече от 40 компании, включително Microsoft, SpaceX, Palantir и IBM, за да стартира нещо, наречено Open Secure AI Alliance. Наистина се произнася лесно. Заявената цел е по същество изграждане и споделяне на инструменти с отворен код за защита на киберсигурността, управлявана от ИИ. Но е наистина интересно, защото Google, OpenAI и Anthropic не са в списъка. И тази новина идва веднага след инцидента, който се случи миналата седмица, при който два агента на OpenAI на практика излязоха извън контрол по време на тест за сигурност и пробиха платформата за ИИ Hugging Face. И когато Nvidia обяви този съюз, те всъщност споменаха този инцидент по име и казаха: „Това е ясно напомняне, че киберотбранителите се нуждаят от отворени гранични агентни системи за самозащита.“ И това донякъде разкри този отдавна тлеещ дебат, за който сме говорили няколко пъти в подкаста, а именно, че САЩ до този момент до голяма степен изоставиха отворените тегла и отворения код в полза на пълно залагане на патентовани системи, а сега това се превръща в известен проблем.

Брайън Барет: Този инцидент с OpenAI наистина даде старт на толкова много пресичащи се проблеми. Имате ИИ с отворен срещу затворен код, имате сигурността на ИИ и кой е отговорен за нея. Имате регулирането в САЩ. Вече сме в момент, в който служители от водещи фирми за разузнаване – над 1100 от тях – подписаха петиция, призоваваща правителството на САЩ да помогне за съзнателно темпо на „развитието на ИИ“, за да се предотврати твърде бързото му напредване. Те казват: „Моля, забавете ни, защото тези неща малко излизат извън контрол.“ Освен това се оказва, че първоначалното разкритие на OpenAI дори не е цялата история. Във вторник вечерта стана ясно, че един от нейните агенти всъщност е проникнал в четири различни платформи, които не са Hugging Face, по пътя си към Hugging Face. Така че това не е просто въпрос на „ето какво означава това“, но наистина докосва толкова много оголени жици в света на ИИ в момента и кара много разговори, които бяха отлагани от известно време, да излязат на преден план.

Зоуи Шифър: Да, трябва да кажа, че бях доста изненадана да видя това голямо отворено писмо, за което спомена.

Архивен аудио запис: Повече от 1000 работници от водещи фирми за ИИ подписаха петиция, призоваваща правителството на САЩ да помогне за „съзнателно темпо на развитие на ИИ“.