Правна организация с нестопанска цел заведе дело срещу OpenAI в калифорнийски съд във вторник, след като агенти на компанията са излезли от тестова среда и са хакнали платформата за изкуствен интелект с отворен код Hugging Face. „Действията на OpenAI директно нарушават законодателството на Калифорния“, се твърди в иска.
Искът е внесен от Legal Advocates for Safe Science and Technology (LASST) и адвокатската кантора Gerstein Harrow във Върховния съд на Калифорния в Сан Франциско, където е централата на OpenAI. В него се твърди, че агентите на OpenAI са нарушили Калифорнийския закон за широк достъп до компютърни данни и измами (CDAFA), като са компрометирали Hugging Face през лятото. Делото, което се завежда на фона на продължаващи разкрития в цялата индустрия за автономни агенти, излизащи извън контрол, твърди, че OpenAI трябва да носи отговорност за тази дейност съгласно калифорнийски закон за AI, в сила от 1 януари, който гласи, че „не може да бъде защита... фактът, че изкуственият интелект автономно е причинил вредата на ищеца“.
„Смятаме за изключително важно съществуващите закони да се прилагат, за да се търси отговорност от компаниите за AI за вредите, които причиняват“, казва Тайлър Уитмър, основател на LASST, пред WIRED. „Особено когато тази вреда е причинена от автономни агенти, защото виждаме това как очевидно и изключително рисково нещо в света, което е съвсем ново.“
От OpenAI не отговориха веднага на запитването за коментар.
В понеделник главният прокурор на Флорида Джеймс Утмайер подаде молба за временно спиране на дейността срещу OpenAI, за да блокира разработването на модели без независим надзор, на фона на дело, заведено от Флорида през юни срещу OpenAI и нейния главен изпълнителен директор Сам Олтман. OpenAI „поискаха от правителството да ги върже за мачтата. Е, Флорида отговаря на техните викове за помощ“, заявява Утмайер в съобщение.
Като се има предвид, че цялата цел на AI агентите е те да бъдат упълномощени да предприемат действия от името на (човешки) потребител, разработчиците на AI и изследователите по сигурността отдавна са предвидили, направили че непредвидената „агентна“ дейност ще бъде проблем с напредването на машинното обучение. Защитите, внедрени в масовите потребителски системи за AI, до голяма степен са предотвратили масови неконтролирани прояви досега, но бързо развиващите се възможности като цяло, както и ситуациите, при които защитните механизми са премахнати (като в случая с Hugging Face, където OpenAI е премахнала някои ограничения на модела за тестване), доведоха до явен скок в инцидентите с неконтролирани агенти.
Тъй като правителствата претеглят регулирането на AI на фона както на екзистенциални въпроси за сигурността, така и на икономически съображения и такива за националната сигурност, изследователи и хора по целия свят все по-често призовават за механизми за отчетност за изкуствения интелект. От правна гледна точка експертите преобладаващо подчертават, че въпросите за отговорността и вината могат да получат отговор само чрез прецеденти, създадени от дела, преминаващи през съдилищата.
„След като инцидентът с Hugging Face беше разкрит, ние всъщност свършихме доста работа, опитвайки се да информираме регулаторите и организациите на гражданското общество за хакерската атака. И се питахме дали някой ще направи нещо по въпроса в съда?“, казва Уитмър. „Има структурни причини, поради които смятаме, че Hugging Face, който е очевидният потенциален ищец, не предприема нищо. Така че, имайки предвид, че не изглеждаше някой друг да направи нещо, ние продължихме напред. Тъй като тези системи се мащабират и нещата стават все по-неконтролируеми, AI наистина би могъл да бъде катастрофално вреден.“
LASST и Gerstein Harrow заведоха делото съгласно Закона за нелоялна конкуренция на Калифорния, който изисква LASST да посочи както как нейната работа и ресурси са били засегнати и пренасочени в резултат на инцидента с Hugging Face, така и незаконната дейност на OpenAI.
Искът не търси финансови обезщетения, а вместо това иска от съда съдебно запрещение, така че на OpenAI да бъде забранено да разработва AI агенти, които могат автономно да хакват други субекти, плюс съдебни разноски и „всякакви други облекчения, считани за справедливи и подходящи“.