Администрацията на Тръмп финализира план за справяне с рисковете за киберсигурността, произтичащи от все по-способните модели на изкуствен интелект (ИИ), потвърди служител на Белия дом пред WIRED. Но поне засега подробностите умишлено се пазят в тайна, споделят пред WIRED източници, запознати с въпроса.

Администрацията на Тръмп е поканила служители от OpenAI, Anthropic, Google, Meta, Nvidia и други водещи ИИ компании в Белия дом във вторник, за да сподели преглед на новата си рамка за надзор на ИИ, казват източниците. Разработчиците на ИИ ще имат възможност доброволно да представят нови модели на федералното правителство до 30 дни преди публичното им пускане. След това Белият дом ще проверява техните киберспособности съгласно класифицирана система за сравнителен анализ и ще споделя ИИ моделите с федерални агенции и доверени корпоративни партньори.

Белият дом не споделя повече информация за своите критерии за тестване или за това кои модели на ИИ ще бъдат обхванати от рамката, въпреки че се съобщава, че отворените модели ще бъдат изключени, според Axios. Това остави по-малките ИИ стартиращи компании, защитниците на безопасността и независимите изследователи в неведение относно решаващи аспекти на това как федералното правителство се справя с киберрисковете, произтичащи от модерни ИИ системи. Някои твърдят, че тайният процес ще даде предимство на по-големите компании.

„Те на практика създават програма за укрепване на позициите на големите доставчици на ИИ модели, които сега се считат за най-модерните,“ казва човек, запознат с дискусиите на Белия дом с ИИ лабораториите, пожелал анонимност, за да обсъжда поверителни въпроси. „Това създава програма за икономически стимули за критичната инфраструктура просто да ги използва и изключва по-малките стартиращи фирми.“

Белият дом не отговори на исканията за коментар.

Администрацията на Тръмп може да пази в тайна своята рамка за сигурност на ИИ поради съображения за национална сигурност. Втори служител на Белия дом, пожелал анонимност, тъй като няма право да говори пред медиите, подчерта, че новата рамка е умишлено тясна и е фокусирана изключително върху възможностите за киберсигурност на най-модерните модели на пазара, като Fable на Anthropic и ChatGPT 5.6 на OpenAI.

Някои защитници на безопасността на ИИ обаче казват пред WIRED, че всички правила, които компаниите за ИИ са длъжни да спазват, трябва да бъдат публично достояние, за да се гарантира, че външни организации могат да ги държат отговорни.

„Това е твърде важен въпрос, за да бъде скрит зад булото на тайната,“ казва Брад Карсън, президент на организацията с нестопанска цел Americans for Responsible Innovation и съосновател на супер PAC Public First Action, подкрепящ регулирането, който се финансира от Anthropic. „Това не е сделка с ръкостискане с технологичните компании. Това е книгата с правила, която гарантира, че те не застрашават обществеността. Ако само технологичните компании знаят какво има в книгата с правила, тя не работи.“

Рамката за надзор произтича от указ, подписан от президента Доналд Тръмп по-рано тази година, предназначен да адресира рисковете за киберсигурността от новите ИИ модели. През последните месеци служители на Тръмп стават все по-тревожни относно хакерските възможности на авангардните системи с ИИ, които според тях могат да представляват сериозен риск за националната сигурност.

Тези опасения се ескалираха през последните две седмици, когато OpenAI и Anthropic заявиха, че са открили, че техните ИИ модели неволно са заобиколили контролните механизми и са хакнали услуги на трети страни по време на вътрешни тестове. Комитетът по вътрешна сигурност към Камарата на представителите изпрати писмо до изпълнителния директор на OpenAI Сам Алтман миналата седмица с искане да информира законодателите за това как един от ИИ агентите на компанията е компрометирал платформата Hugging Face.

„Този инцидент наистина е сигнал за събуждане за хората, че възможностите на ИИ агентите вече са достигнали това ниво,“ каза Доун Сонг, вицепрезидент по изследванията на ИИ в Meta, по време на панелна дискусия в събота в Калифорнийския университет в Бъркли, където тя също е професор, имайки предвид пробива в Hugging Face.

Новата рамка на администрацията на Тръмп е опит да се постигне баланс между насърчаването на конкуренцията в ИИ индустрията и поддържането на безопасността. Указът отбелязва, че това не трябва да се разглежда като „задължителен режим за лицензиране“, но критиците твърдят, че непрозрачният процес на администрацията на Тръмп е създал точно това.

„Регулациите, необходими за предотвратяване на катастрофалните рискове, представени от неконтролирания ИИ и суперинтелект, не трябва да бъдат доброволни,“ казва Конър Лийхи, изпълнителен директор на ControlAI, организация с нестопанска цел, фокусирана върху противодействието на рисковете от ИИ. „Това действие признава опасността, но оставя тежестта на безопасността в ръцете на компании, които имат стимул да продължат напред с пълна скорост, без да се съобразяват с благосъстоянието на обществеността.“

През последната година и половина служители на Белия дом се борят с това как да смекчат рисковете от модернизирания ИИ, без да задушават американските иновации или да отстъпват позиции на Китай. Президентът Тръмп се върна на поста с обещание да предприеме подход на немесане спрямо ИИ, но неговата администрация показва нарастваща готовност да се намеси по въпроса. През юни например тя предприе...