Представители на OpenAI и Anthropic заявиха по време на изслушване в британския парламент, че доброволните ангажименти вече не са достатъчни за гарантиране на безопасността и че трябва да се въведат нови закони. Това задълбочи публичното разделение с Google DeepMind и Meta, като и двете компании отказаха да подкрепят ново законодателство.

Комисията по бизнес, иновации, наука и търговия, състояща се от междупартийна група от депутати, проведе заседание за събиране на доказателства във вторник с участието на четири водещи компании за изкуствен интелект (frontier AI), четирима бивши служители на компаниите, превърнали се в лица, подаващи сигнали за нередности, и висши британски държавни служители.

„Правилата трябва да бъдат задължителни“, заяви пред комисията ръководителят на Anthropic за Европа Лиам Буут-Смит, попитан дали според компанията безопасността на ИИ вече се нуждае от законова рамка. Компанията, по думите му, „последователно вярва, че трябва да има задължителни правила за компаниите и че доброволните ангажименти не са достатъчни“.

Вицепрезидентът на OpenAI Том Дъф Гордън беше по-предпазлив, но все пак изрази подкрепа, заставайки зад законова рамка и международна конвенция. Дъф Гордън отбеляза, че „трябва да има определени елементи, които да бъдат задължителни“, започвайки с докладването на инциденти. „Не смятаме, че основаването на всичко върху доброволни ангажименти по отношение на риска от авангардни модели е добър дългосрочен план“, каза той.

Техните конкуренти обаче отказаха да последват този пример. Запитан директно дали подкрепя законова рамка, Оуен Лартър от Google DeepMind заяви: „Фокусът върху стандартите е това, което ние бихме направили“. Роб Шърман от Meta посочи съществуващите регулаторни органи във Великобритания, заявявайки пред депутатите, че те „не пишат на празен лист“.

Изслушването разкри съществуващо разделение по темата за регулирането, като вписа конфликтните подходи на лидерите в областта на ИИ в британските парламентарни протоколи. Разкриването на това разделение във втора юрисдикция беше именно целта според председателя на комисията Лиам Бърн. Комисията си постави за цел „да освети големите различия в мненията между някои от най-богатите компании на Земята“, каза той пред WIRED след изслушването, и да покаже, „че не може да се разчита на доброволно саморегулиране“.

Докато четиримата ръководители даваха показания пред комисията относно безопасността на ИИ, само на няколкостотин метра директорът на британската служба за сигурност отправи предупреждение за опасностите от ИИ.

Директорът на MI5 Кен Маккалъм използва годишния си доклад за заплахите, за да предупреди за злоупотребата с биологични оръжия като значителна заплаха, произтичаща от ИИ. „Все още не се е реализирал, но случаят на злоупотреба, на който бих отдал най-голяма тежест, е потенциалът на ИИ да промени залозите по отношение на съществуващи или дори нови биологични оръжия“, каза Маккалъм.

В отговор на този коментар Бърн заяви пред WIRED: „Фактът, че ръководителят на MI5 предупреждава за невероятно опасни повишения на възможностите за биотерористите в една част на Уайтхол, а в друга част постоянният секретар на Кабинета на министрите на практика признава, че нашият регулаторен режим за ИИ е доброволен, ви казва всичко, което трябва да знаете“.

В заключителната част на заседанието държавните служители признаха пред комисията колко малко задължава настоящата система. Британският Институт за сигурност на ИИ (AISI) тества авангардни модели преди пускането им на пазара, но само когато компаниите решат доброволно да ги предоставят.

Хенри де Зуете, директор на AISI, призна, че институтът е изцяло зависим от сътрудничеството на компаниите и чуждестранните правителства, за да получи достъп. Кат Литъл, най-високопоставеният държавен служител в Кабинета на министрите, под чиято шапка е AISI, беше притисната с въпрос дали целият режим е доброволен. „В момента да, такъв е“, отговори тя.

На въпрос какво би се случило, ако AISI прецени, че даден модел е твърде опасен, но компанията все пак го пусне на пазара, де Зуете призна, че институтът няма възможност да им попречи да го направят.

„Това, което не правим, е сертифициране за безопасност“, каза де Зуете, използвайки британския термин kite marking. „Ние не казваме „да“ или „не“ на какъвто и да е модел.“ Той добави: „Тези компании са или американски, или китайски, разработващи на технологичния фронт... Има лимит на това, което ние като Обединеното кралство можем да направим в подобен контекст“.

Ръководителите на компаниите за авангарден ИИ също дадоха ясно да се разбере, че британският достъп минава през Вашингтон. „Предоставяме нашите модели преди внедряване на CAISI“, каза Дъф Гордън от OpenAI, визирайки американския еквивалент на AISI. „Ще продължим да предоставяме нашите модели преди внедряване и на AISI в Обединеното кралство... и докато имаме възможност да правим това съгласно правителството на САЩ, ще продължим да го правим.“

Напрежението около съществуващото споразумение беше ясно очертано пред британските служители от Буут-Смит от Anthropic. „За съжаление не успяхме да предоставим пълен неограничен достъп до [Mythos 5.1] на британския AISI по онова време... Това е въпрос към правителството на САЩ“, заяви той, преди да добави, че сега AISI вече има достъп.

По време на изслушването бяха изслушани и четирима бивши изследователи от лабораториите, сред които и бившият служител на OpenAI Даниел Кокотайло. „Не мисля, че на компаниите може да се има доверие да се саморегулират“, каза той пред депутатите. Стивън Адлър, който напусна OpenAI в края на 2024 г., сподели, че „няма увереност в културата на безопасност в цялата индустрия“. Джефри Ървинг заяви, че лабораториите вярват, че са въвлечени в надпревара, която правителствата няма да прекъснат и която те самите не могат да напуснат. „И двете твърдения са неверни“, каза той. „Те просто биха могли да спрат.“

След изслушването Бърн заяви пред WIRED, че неговата комисия сега ще посвети значително време на разглеждането на пътя на Обединеното кралство като средна сила в областта на ИИ. Той иска министрите да използват предстоящото председателство на Великобритания на Г-20, заедно с Южна Корея, която поема председателството след нея, за да договорят международна конвенция, която не зависи от настоящата администрация в Белия дом. „Председателството на Г-20 ще надживее президентството на Тръмп в САЩ“, каза той.

„Рисковете“, добави той, „се умножават по-бързо, отколкото нашият режим за безопасност може да ги контролира.“