Преди седемдесет години през изминалото лято група учени се събират в Колежа Дартмът, за да обсъдят една смела идея — че машините един ден биха могли да бъдат способни на мисловни процеси, подобни на човешките. Един от тези учени, Джон Маккарти, предлага име за новата област: изкуствен интелект. То се запазва. Когато търсите „изкуствен интелект“ в Google Scholar, се появяват приблизително 7 420 000 резултата. Терминът е напълно всеобхватен. Всеки го разбира. Дори за хората, които презират изкуствения интелект, последната им грижа е как го наричаме.
Е, не и за всеки. По някаква причина президентът Доналд Дж. Тръмп разви неприязън към термина, а когато той не харесва нещо, се чувства в правото си да издаде указ срещу него. В реч на 23 септември в Организацията на обединените нации той загатна, че би искал да премахне термина „изкуствен интелект“. Неговите тиради изглеждаха като празни приказки, дори за човек с афинитет към преименуването на заливи, езера и центрове за изкуство. Преименуване на цяла научна област и най-важната индустрия на Америка? Тази седмица, по време на обяд в Белия дом с водещи лидери в областта на изкуствения интелект, той наистина задейства плана си с изпълнителна заповед, декларираща, че „изкуствен интелект“ вече е забранено понятие. Вместо това правителството ще го нарича „Суперинтелект“. Очевидно президентът очаква частният сектор да последва примера му.
За техен срам, господарите на изкуствения интелект кротко се съгласиха. Оттук нататък те вероятно ще бъдат известни като господарите на СИ.
Човек не може да не види в това пълно демонстриране на президентско надмощие — въпреки всичките трилиони долари на изпълнителните директори и целия им реален интелект, алфа-фигурата в стаята беше човекът с оранжева кожа. Промяната на името може да изглежда като незначителен въпрос в сравнение с огромното предизвикателство да се ограничи една потенциално катастрофална технология. Но за тази общност изкуственият интелект е много повече от просто поредица от букви. Това е тяхната основа. Тяхната идентичност. Когато са били деца и са чели научнофантастични книги под завивките, терминът е разпалвал въображението им. Те са изградили или трансформирали компаниите си в услуга на изкуствения интелект и това е почти единственото, за което са говорили през последните четири години.
И все пак, когато президентът използва обяда си, за да спечели тяхното одобрение за лудата си идея да отмени 70-годишна история, очевидно нито един човек в стаята не изрази възражение. Нито Джеф Безос, Дженсън Хуанг, Дарио Амодеи, Марк Зукърбърг, Сундар Пичай, Грег Брокман, Алекс Карп или Илон Мъск.
Джейкъб Уайзбърг, автор на новата книга Profiles in Cowardice: A Study of Collaboration in the Trump Era, разглежда епизода като класически тест за лоялност на Тръмп, предназначен да оцени дали иначе влиятелни хора ще се унижат, за да спечелят благоволението на президента и да избегнат гнева му. Ако преминете теста за лоялност, се проваляте на теста за характер. „Единственият начин да се противостои на подобно нещо е чрез колективни действия“, казва Уайзбърг. „Ако всички тези хора просто бяха казали: „Ще се съгласим с условията за саморегулиране, но не приемаме [промяната на името]“, какво щеше да направи той?“
Вместо това, поради кроткото мълчание на милиардерите, Тръмп можа да твърди, че тези лидери активно са благословили идеята му. Когато репортерка по време на кратката пресконференция след обяда спомена ИИ агенти, той я коригира с думите: „Името беше променено от най-големите, най-умните и най-великите хора навсякъде по света.“ Наистина ли?
Дори използвайки магията на, ъ-ъ, суперинтелигентни системи като ChatGPT или Gemini, не можах да намеря нито един случай, в който някой от тези велики хора преди това да е агитирал, че терминът изкуствен интелект трябва да бъде изоставен. Сатя Надела веднъж наистина каза, че би предпочел ИИ да се нарича „различен интелект“, но това не го е възпряло да използва термина неколкократно. И макар да е вярно, че Марк Зукърбърг наскоро създаде Лаборатория за суперинтелект, неговата компания постоянно предлага продукт, наречен Meta AI, на милиардите си потребители и продава така наречените AI очила.
Попитах Google, Microsoft, Anthropic, Meta, Amazon, OpenAI и xAI дали ще променят споменаванията на ИИ в имената на продуктите си, изследователските си доклади и комуникациите си. Запитването ми към последните две беше дали възнамеряват да променят имената на компаниите си, за да бъдат в съответствие с президентската заповед. Докато пиша това, нито една от тях не ми е отговорила.
Моята прогноза е, че те ще направят минимума, за да избегнат президентския гняв, докато се опитват да спечелят време, докато следващата администрация не сложи край на тази странна идея. Имаше предложения, че изпълнителните директори всъщност приветстват ребрандирането на това, което се превърна в токсичен термин. Скептичен съм към това, особено след като разпоредената от президента замяна, „суперинтелект“, е много по-плашеща от оригиналния термин.
От научна гледна точка промяната също няма никакъв смисъл. Не по-малък експерт от Ник Бостром, философът, популяризирал термина суперинтелект в едноименната си книга, изглежда озадачен от идеята. Суперинтелект, обясни той за мен в имейл, „се отнася конкретно за системи, които значително превъзхождат всички най-добри човешки мозъци. „ИИ“ се отнася за много по-широка категория системи, която включва например спам филтри за имейл, проверки на правописа, прости системи за навигация, ранни LLM и шахматните енджини от 70-те години, които все още не съответстваха на най-добрите човешки шахматисти. Изглежда неловко те да се наричат „суперинтелигентни“.“
И така, каква е причината на президента да изисква промяната, освен защото може? В речта си пред ООН той каза, че не харесва термина, защото „думата „изкуствен“ прави интелекта фалшив. А той не е фалшив.“ Това, което е фалшиво, каза той след обяда в Белия дом, е терминът „изкуствен интелект“. „Това е фалшива дума, не е добра, неподходящ термин.“ Не е нужно да сте психолог, за да видите как този импулс може да е свързан с решението му да премахне CNN, Politico и MSNow от Белия дом, защото възприема техните новини като „фалшиви“.
Все пак скокът, който отждествява изкуствен с фалшив, е нелогичен. През 1956 г. Маккарти го използва, за да разграничи човешкия интелект от машинната версия на интелекта. Проблемът не е в това, че терминът кара хората да смятат резултатите на ИИ за фалшиви — всъщност те са толкова реални, че ние, човешките същества, често не можем да преценим дали си имаме работа с ИИ модел или с човек. Изискването разграничението да бъде изрично, с водни знаци и етикети, трябва да бъде един от елементите на регулацията на ИИ, към която Белият дом изглежда има алергия.
Както отбелязва Уайзбърг, подобен луд едикт е напълно в характера на Тръмп. Това, което е тревожно, е крещящата липса на характер у изпълнителните директори, които не възразиха. Те си тръгнаха с наградата за саморегулиране вместо строг надзор, но не и с достойнството си.
Но неуспехът да се защити свободата изкуственият интелект да се нарича изкуствен интелект (както губернаторът на Калифорния Гавин Нюсъм разпореди в своя собствена изпълнителна заповед, тролеща Тръмп) хвърля съмнение дори върху това споразумение. Успешното прилагане на доброволни стандарти изисква значителна твърдост, тъй като приоритетът върху безопасността може да влезе в конфликт с финансови и конкурентни фактори. И все пак от нас се иска да се доверим на тези уж независими корпоративни гиганти, които кимаха като клатушкащи се фигурки, докато един технологично неграмотен главнокомандващ искаше от тях да изоставят термина в центъра на техния живот и поминък. Неподходящо и фалшиво.