През последните седмици OpenAI е поискала от членове на Конгреса ясни указания относно това дали организирането на общоиндустриално забавяне в разработването на авангардни AI модели би било законно, споделят източници, близки до компанията, пред WIRED.
Съществената координация по отношение на сигурността между лабораториите за изкуствен интелект може да създаде риск от нарушаване на антитръстовото законодателство, казват източниците, което представлява значителна пречка за привличането на основните технологични гиганти към това инициатива.
Миналия уикенд главният учен на OpenAI, Якуб Пачоцки, публикува публикация в блог, в която твърди, че най-добрият път напред за света на изследванията в областта на AI включва „координиране с цел забавяне на бъдещото развитие“, което според него ще бъде от ключово значение за гарантиране на безопасността на самоподобряващите се AI системи. В краткосрочен план той очаква „доброволните забавяния да станат нещо обичайно, докато не бъдат установени споделени критерии за сигурност“.
Някои правни експерти обаче казват, че подобни усилия могат да влязат в конфликт с антитръстовите закони на САЩ. Никълъс Фелстед, заместник-директор на Австралийската комисия за конкуренцията и потребителите и бивш стипендиант по AI политика в Center for Law & AI Risk, твърди в статия от март, че координираната пауза в разработването на AI може да се равнява на ограничаване на производството от страна на компаниите, което потенциално нарушава Закона на Шърман (Sherman Antitrust Act). Това би зависило „изцяло от точните подробности на всяко споразумение“, пише Фелстед. „Но дори ако повечето сътрудничества за безопасност в крайна сметка издържат на антитръстова проверка, правната несигурност може да действа като силен възпиращ фактор.“
От OpenAI не отговориха на запитването за коментар преди публикуването на статията.
Има някои ранни признаци, че Конгресът вслушва тези опасения. През юли двупартийна група законодатели от двете камари внесе законопроект, озаглавен „Collaboration on Adversarial Threats and Security Risks Act“, който изрично би разрешил на AI лабораториите да се координират по въпроси на сигурността и безопасността, без риск от нарушаване на антитръстовите устави. Версията в Камарата на представителите беше препратена към Правната комисия, но все още предстои да бъде разгледана.
Калеб Нап, директор по правителствените въпроси в неправителствената организация AI Policy Network, която подкрепи законопроекта, казва, че той ще създаде правни канали за съвместна работа на AI лабораториите за справяне с инциденти, свързани с безопасността и сигурността. Нап добавя, че в Конгреса има „нарастващ апетит да се предприеме нещо“ по отношение на безопасността на AI, но казва, че приемането на каквото и да е в закон може да се наложи да изчака до след предстоящите междинни избори.
Въпреки че някои ръководители на AI компании може да имат искрени опасения относно антитръстовото законодателство, друга група от лидери в областта твърди, че тези притеснения са просто удобно прикритие, за да се избегне обсъждането на истинските причини, поради които AI разработчиците може да се въздържат от сътрудничество, които надхвърлят потенциалните правни отговорности.
От една страна, изкуственият интелект е мащабен бизнес и тези компании се конкурират ожесточено за дял от нововъзникващия пазар на авангардни модели. Някои ръководители споделят виждането на администрацията на Тръмп, че запазването на предимство пред Китай в областта на AI е от решаващо значение за националната сигурност. Може би най-важното е, че различните AI разработчици имат коренно различни мнения за най-добрия начин за разработване на безопасен изкуствен интелект и следователно може да не желаят да работят помежду си по този въпрос.
„Първата стъпка е лидерите в индустрията OpenAI и Anthropic да спрат враждата и да разработят заедно предложение за темпото на развитие“, написа по-рано тази седмица в X Джон Шулман, съосновател на OpenAI, който сега е главен учен в конкурентната AI лаборатория Thinking Machines. „Те ще се позовават на антитръстовото законодателство, но това е фалшиво — антитръстът забранява определени споразумения, но не и съвместното разработване на предложение.“
Дълго тлеещите страхове относно надпреварата между AI компаниите за създаване и пускане на все по-мощни модели избухнаха в центъра на вниманието на обществеността това лято. Тази седмица бившият изследовател в Anthropic и OpenAI Джейкъб Коксън засили нарастващата тревога, като отправи остро публично предупреждение, че разработчиците на AI излагат човечеството на риск. През последните месеци редица инциденти със сигурността, включително хакването на Hugging Face от агенти на OpenAI, подчертаха как защитните механизми на индустрията не успяват да вървят в крак с нарастващите възможности на моделите. Поредицата от събития накара много законодатели да отправят спешни призиви за регулиране на изкуствения интелект.