Кой носи правна отговорност, когато автономен изкуствен интелект (AI) излезе извън контрол, и какви средства за защита имат жертвите, когато са били компрометирани от развихрили се модели? Чудесен въпрос.

След разкритията както от OpenAI, така и от Anthropic, че версии на техните модели са избягали от изолираната среда по време на вътрешни експерименти за киберсигурност и са хакнали реални организации, призивите за правителствено регулиране на изкуствения интелект се засилват. Но с появата на все повече инциденти, въпросите относно правната отговорност и последствията също излизат на преден план.

Изследователи и юристи, с които WIRED разговаря, подчертават, че тези въпроси не са получили практически отговор в правната система на САЩ. С други думи, няма взети решения по достатъчно релевантни дела, за да започне да се оформя ясна картина. Скорошните високопрофилни инциденти с OpenAI и Anthropic обаче подсказват, че отговорите ще трябва да дойдат скоро.

„Само защото използвате AI агент или AI модел, това не би трябвало по някакъв начин да ви освобождава от отговорност, но това ще зависи до голяма степен от фактите в конкретните ситуации“, казва Лорън Ю, сътрудник в проекта за свобода на словото, поверителност и технологии на ACLU, с оглед на бъдещите съдебни решения.

Експертите твърдят, че т.нар. „закон за представителството“ може да бъде приложим, тъй като доктрината се фокусира върху ситуации, в които „упълномощител“ е дал на „агент“ разрешение и власт да действа от негово име. За да сме ясни: „агентите“ в тази област на правото винаги са били хора.

Деликтното право, при което неправомерно поведение причинява вреда, водеща до правна отговорност, също би могло потенциално да бъде приложено при случаи на излязъл извън контрол AI. Договорното право също може да се използва в зависимост от действията на автономния изкуствен интелект и условията на договорите между участващите страни, ако има такива. Законите срещу хакерството, като Федералния закон за компютърни измами и злоупотреби (CFAA) или законодателството на щатско ниво, също могат да бъдат от значение. CFAA и много други закони срещу хакерството обаче изискват наличие на „умисъл“, което според експертите ги прави привидно неподходящи за дела, свързани с AI.

В крайна сметка експертите подчертават, че въпросите относно федералното законодателство на САЩ за отговорността при изкуствения интелект ще намерят своите отговори само чрез повече съдебни дела.

„Може би най-тревожното за критиците е, че AI агентите са ориентирани към целта, но им липсва човешки морален или етичен компас“, пише адвокатската кантора Brownstein Hyatt Farber Schreck в бюлетин до клиенти на 24 юли. „В някои ситуации агентът може да предприеме действия, които никога не са били изрично разрешени, ако тези действия изглеждат необходими за постигане на целта му.“

OpenAI и Anthropic описаха инцидентите с киберсигурността, включващи техните AI агенти, като случайни последици от тестването на възможностите за киберсигурност на техните модели с изключени стандартни защити. И двете компании отказаха искането на WIRED за коментар по тази тема.

Междувременно инцидентите продължават. Ройтерс съобщи в петък, че докато OpenAI разследва хакването на Hugging Face и други субекти, компанията е открила и други примери за ситуации, в които нейните агенти са избягали от изолираната среда – въпреки че очевидно никое от тези нови разкрития не е довело до компрометиране на други организации.

Говорейки по-рано тази седмица за разкритията на OpenAI относно Hugging Face, Алекс Зенла, технически директор на фирмата за облачна сигурност Edera, разсъждава: „Това е само случаят, за който знаем, но един Господ знае какво се е случило с нещата, за които не знаем.“