Водещите компании в областта на изкуствения интелект (ИИ) са си извлекли важни поуки от последните инциденти и не е необходимо регулиране, за да се запазят тези поуки, заяви правителствен служител.

ПРАВИТЕЛСТВОТО на САЩ следи отблизо вземането на решения за безопасност от страна на водещите лаборатории за изкуствен интелект и е готово да се намеси, ако види, че дадена компания отива твърде далеч, заяви висш служител от администрацията.

„Няма причина да не можете да постигнете целите, които според мен имат лабораториите за ИИ по отношение на изключително бързата скорост на иновациите, отключваща по-голям просперитет, като същевременно не се създават осакатяващи рискове“, заяви Джоузеф Алм, помощник-секретар по въпросите на киберсигурността, инфраструктурата, риска и устойчивостта в Министерството на вътрешната сигурност на САЩ (DHS), по време на дискусионен панел на конференцията за киберсигурност Black Hat USA.

В миналото, каза Алм, „играчите в сферата на ИИ работеха в тясно пространство, където оптимизираха моделите за интелигентност“, но сега те разбират, че политиците „няма просто да стоят отстрани и да ви позволят да направите фабрика за Терминатори“.

Алм се въздържа да отговори конкретно на въпроса как правителството би попречило на водеща лаборатория да създаде такъв тип опасна технология. „Няма да очертавам какви са тези инструменти“, каза той. „Зная какви са те и има много такива.“

Коментарите на Алм дойдоха в момент, когато общността по киберсигурност продължава да анализира скорошните разкрития на OpenAI и Anthropic за техни модели, избягали от тестови среди и компрометирали други компании. Инцидентът с OpenAI беше основна тема на Black Hat след презентация на двама инженери от компанията, в която те разкриха поразителни нови подробности за самонасочващото се поведение на техните модели.

Инженерите на OpenAI споделиха, че компанията забавя тестването си и изгражда нови предпазни мерки, за да предотврати повторение на хакерския епизод. Техните коментари отразяваха новопридобития предпазлив тон, който OpenAI и Anthropic използваха при съобщаването на съответните си инциденти.

Алм от DHS отбеляза, че е добър знак фактът, че двете компании са положили сериозни усилия да заявят, че сега действат внимателно.

„Компаниите подхождат много по-насочено към рисковете“, каза Алм, „и са много по-активни в ангажирането си с нашето ръководство на най-високо ниво.“

Същевременно висши държавни служители са били „агресивни в контактите си“ с мениджърите на ИИ компании, за да гарантират, че правителството и индустрията „работят в тясно сътрудничество в тази област и няма драстично разминаване“, добави Алм.

Съчетаване на иновациите със сигурността

Първоначално администрацията на Тръмп възприе пасивен подход към сигурността на ИИ, но след пускането на Mythos от Anthropic през април правителството премина към по-интервенционистки подход, тъй като служителите се опасяваха, че водещите лаборатории не ограничават адекватно своите модерни модели. Последните автономни хакерски инциденти подчертаха опасенията за сигурността, породени от фокуса на Белия дом върху неограничените иновации.

Алм заяви, че този фокус е останал непроменен след последните инциденти.

„Съществуват значителни рискове с ИИ. Но в същото време администрацията много целенасочено не желаеше бюрократите да дефинират тази сфера“, каза той. „Не искаме те да се опитват да разберат накъде отиват нещата, когато, честно казано, дори най-умните хора в света не знаят накъде отиват.“

Той добави, че моделът на Силициевата долина „движи се бързо и руши нещата“ – при който компаниите „игнорират тази маса от регулации и правят нещо готино“ – всъщност „работи в общи линии“.

Нарастващото темпо на разговорите между правителствените лидери и ръководителите на ИИ компании ще направи повече за предотвратяването на кризи в сигурността, отколкото биха направили регулациите, аргументира се Алм.

„Сега те осъзнават, че това е диалог и че ние всъщност сме добри партньори в този диалог“, каза той. „Не се опитваме да ги забавяме, но все пак никой не иска фабрика за Терминатори.“