След поредица от доклади за рояци от AI агенти, хакерски атаки срещу уебсайтове и координиране чрез тайни форуми, заедно с тревожно съобщение за човечеството от бивш инженер на Anthropic, водещите компании за изкуствен интелект призоваха за координирано „забавяне“ на разработката на AI. Заедно с различни версии на тази конкретна фраза — „забавяне“ — те изразиха опасения, че подобни действия биха могли да нарушат антитръстовото законодателство.

Експертите по антитръстово право твърдят, че макар острят език на компаниите да не им прави услуга, неконтролираното развитие на разумен AI-убиец едва ли е в духа на Закона на Шърман (Sherman Act) — ключов антитръстов закон в САЩ, съществуващ за насърчаване на конкурентен пазар. В същото време получаването на официално одобрение от правителството за продължаване напред би могло да предотврати струващи скъпо разследвания в бъдеще.

Радикална реторика

Според антитръстовото право начинът, по който служителите на една компания говорят за бизнес решенията, често е толкова важен, колкото и самите бизнес решения. Google например обучи служителите си да не използват определени фрази — дори вътрешно — които биха могли да подскажат, че компанията участва в неконкурентно поведение, и вместо това ги инструктира да наблягат на начините, по които бизнес решенията подобряват предлаганите услуги и ползите за потребителите.

Така че от антитръстова гледна точка използването на фрази като „забавяне“ или „пауза“ може да предизвика повече тревога от действителната дейност, която представлява: разработване на начини за гарантиране, че напредналите AI модели няма да станат неконтролируеми. Колективно съгласувано забавяне без конкретна цел би могло да се тълкува от регулаторите като споразумение за ограничаване на търговията с цел предотвратяване на конкуренция.

„Мисля, че те в известна степен се поставиха в капан с начина, по който формулират нещата“, казва Джон Бергмайер, юридически съветник в организацията с нестопанска цел Public Knowledge.

„Обикновено в антитръстовите казуси икономистите гледат дали намалявате производството“, казва Бергмайер, т.е. дали две или повече компании сключват пакт за „по-спокойно темпо“. Вместо да говорят за усилия за ограничаване на разработката, които звучат като тайно споразумение, той казва, че AI компаниите са могли einfach да наблегнат на желанието си да работят съвместно по протоколи за безопасност за предотвратяване на катастрофални рискове и да разглеждат забавянето при пускането на нови модели като естествен страничен ефект от това.

Главният изпълнителен директор на Meta Марк Зукърбърг, чиято компания наскоро избегна мащабно антитръстово дело, заведено от Федералната търговска комисия (FTC), се включи в предложението за забавяне, без изобщо да подкрепи изрично „забавяне“. Зукърбърг вместо това твърди, че лабораториите за AI имат „силен естествен стимул“ да накарат AI агентите да се държат по-добре, защото потребителите не искат модели, които правят неща, които хората не възнамеряват — познато като „несъответствие на целите“ (misalignment) в жаргона на AI индустрията — и че компаниите, които не отделят време да коригират това съответствие, „ще изостанат“ в конкурентната надпревара. Разликата е като между двама производители на автомобили, които казват „споразумяхме се да не правим по-добри коли за известно време“ и „няма да правим по-бързи коли, докато не разберем как да ги направим безопасни, защото никой няма да купува колите ни, ако убиват хора“.

(Забележка: Репортерът по този материал преди е работил във FTC, но не е участвал в делото срещу Meta.)

Дейвид Лорънс, доскорошен директор по политиките в Антитръстовия отдел на Министерството на правосъдието на САЩ (DOJ), написа в LinkedIn, че споразуменията, предотвратяващи катастрофални рискове, всъщност „увеличават производството и насърчават конкуренцията“ и вече са защитени от закона чрез така наречената „доктрина за спомагателните ограничения“ (ancillary restraints doctrine).

„В крайна сметка“, коментира дългогодишен антитръстов адвокат от FTC под публикацията, „без човечество няма да има и конкуренция“.

Ако не друго, колективното съгласие да не се внедряват мерки за безопасност може да изложи AI лабораториите на обвинения в „фиксиране на качеството“, казва Роджър Олфорд, професор в Юридическия факултет на Университета Нотр Дам и бивш заместник-ръководител на Антитръстовия отдел на DOJ. Това се случва, когато компаниите взаимно се договарят да не подобряват собствените си продукти; Олфорд посочва европейски антитръстов казус, при който автомобилни компании работят заедно за разработване на технология за намаляване на емисиите, но се договарят да не се конкурират по подобрения извън изискванията на закона. В крайна сметка те трябваше да платят глоба в размер на около един милиард долара.

И разбира се, саморегулирането не е нещо ново. Бергмайер посочва, че индустриите вече могат да ограничат своята антитръстова отговорност чрез Закона за националното съвместно изследване и производство от 1993 г. (National Cooperative Research and Production Act), който им позволява да създадат организация за разработване на стандарти, стига да подадат уведомление до FTC и DOJ.

Пазарен натиск

Регулаторите обикновено са скептични към антитръстовите изключения, защото твърдят, че те в крайна сметка правят големите играчи още по-големи и пречат на по-новите компании да получат отласък на пазара. Други също изразиха съмнения относно искането, включително Дейвид Сакс, съпредседател на Президентския съвет на съветниците по наука и технологии. Сакс обвини Anthropic и OpenAI, че са дуопол, и заяви, че искането за антитръстово изключение е „психологическа операция в изборния сезон“ и предтекст за „създаване на картел“.

Но много служители на големите AI компании искрено изразиха загриженост относно това колко бързо техните компании бълват нови модели, потенциално за сметка на безопасността.

„Понякога компаниите искат да бъдат регулирани като трик да вдигнат стълбата след себе си. Но понякога наистина усещат, че пазарът оказва натиск да действат по начин, по който смятат, че не трябва“, казва Бергмайер. „Психологически може би AI лабораториите чувстват, че нямат разрешението на пазарите или на предстоящото си първично публично предлагане (IPO), за да предприемат едностранно подобни действия.“

Това лято и Anthropic, и OpenAI подадоха поверителни документи за първични публични предлагания и имат оценки близо или над един трилион долара всяка. Очаква се Anthropic да стане публична компания следващия месец, докато главният изпълнителен директор на OpenAI Сам Олтман заяви, че компанията ще отложи своето IPO до 2027 г. поради последните опасения за безопасността. (Финансовият директор на OpenAI по-рано заяви пред служителите, че тя ще стане публична компания през 2027 г., според CNBC.) Индексът Ramp AI, който измерва процента на приемане на изкуствен интелект, показва, че моделите на двете компании имат сходни нива на използване и се конкурират оспорвано за първото място. Нито една от двете компании не отговори на запитването за коментар по тази статия.

„Мисля, че те искат изключение, защото в съзнанието си смятат, че трябва да координират забавянето, тъй като, нека бъдем честни, не искат разоръжаване от едната страна, докато останалите продължават с бясна скорост“, казва Олфорд.

Съществува и политически натиск да се продължи възможно най-бързо. След новината за предложението за забавяне, президентът Доналд Тръмп написа в социалните мрежи, че правителството вече има „огромна НАКАЗАТЕЛНА и РЕГУЛАТОРНА власт върху тези компании!“ и че „КОЙТО СЧЕПЕ ИЗКУСТВЕНИЯ ИНТЕЛЕКТ, ТОЙ ПЕЧЕЛИ!“

Профилът на главния технологичен директор на Министерството на отбраната на САЩ също публикува мемета срещу привържениците на забавянето (anti-doomer), изглежда в отговор на идеята за спиране на темпото.

Антитръстовият отдел на DOJ също не е имунизиран срещу политически махинации. Олфорд беше отстранен от агенцията миналата година, след като обвини ръководството на DOJ в корупция поради одобряването на сливане между две компании за технологична инфраструктура, което Олфорд по-късно описа като „скандал“ в публична реч. А журналист от Wall Street Journal съобщи, призовавайки се на думи на Андрю Фъргюсън, председател на FTC, че той е казал на присъстващите на антитръстова конференция, че Тръмп „в крайна сметка ще реши всяка политика за AI“.

Ако федералното правителство започне антитръстово разследване за забавяне на изкуствения интелект, това ще се счита за „разследване на поведението“ (conduct investigation). За разлика от „разследването на сливане“, което налага строги временни ограничения върху правителствената проверка, разследването на поведението може да отнеме години. От AI компаниите може да се изисква да предоставят милиони страници документи, ръководители и други ключови служители могат да бъдат призовани на разпити, а стотици други служители могат да имат задържане на устройства за целите на съдебни спорове — дори ако правителството в крайна сметка реши, че няма основателно дело.

Тъй като няма нови регулации на хоризонта и вероятно няма да има антитръстово изключение, водещите AI лаборатории ще трябва сами да напишат правилата за движение и потенциално да избягват разследване или две по пътя.