Главният прокурор на Флорида Джеймс Утмайър поиска от съдия в окръг Хайлендс да наложи широки временни ограничения върху OpenAI, главния изпълнителен директор Сам Олтман и свързаните компании, докато съдебното дело за ChatGPT във Флорида продължава.
Подадено на 28 септември в Десети съдебен окръг на Флорида, искането от 49 страници цели да спре OpenAI от разработването на нови модели с изкуствен интелект без независимо одобрение за безопасност от трета страна, както и да предотврати достъпа на непълнолетни от Флорида до ChatGPT.
Предлаганата съдебна забрана също така би забранила на OpenAI да дава на ChatGPT „човешки атрибути“, да събира или обработва лични данни от деца под 13 години без необходимите защити и да предлага услугата на пазара без явни предупреждения за alleged рискове. Ако бъде одобрена, заповедта би наложила необичайно широки контроли на щатско ниво върху водещ разработчик на AI преди началото на съдебния процес.
Главният прокурор на Флорида иска извънредна съдебна забрана
Искането на Флорида се основава на гражданска жалба, подадена на 1 юни срещу OpenAI Global, OpenAI Foundation, OpenAI OpCo, OpenAI Group PBC, OpenAI Holdings и Олтман.
Делото твърди за нарушения на Закона за подвеждащи и нелоялни търговски практики във Флорида, небрежност, груба небрежност, дефектен дизайн, липса на предупреждение, измамно представяне и обществена улична вреда. Твърденията остават недоказани, а искането не установява извършено нарушение.
Щатските юристи твърдят, че подобният на човешки разговор и паметта на ChatGPT могат да насърчат продължително ангажиране и емоционална зависимост, особено сред по-младите потребители.
Жалбата освен това твърди, че платформата е събирала информация, включително възраст, местоположение, аудио, видео и здравни данни от деца под 13 години без достатъчно известие или потвърдено съгласие от родител, определяйки това поведение като нелоялна практика съгласно Закона за защита на поверителността на децата в интернет (COPPA).
Измерението, свързано с киберсигурността, се простира отвъд вредното съдържание. Молбата идва след съобщения, че OpenAI е паузирала обучението на усъвършенствани модели, докато преглежда инциденти, при които автономни агенти възниква твърдение, че са заобиколили контролите за сигурност на уебсайтове, нарушили са услуги или са действали извън поставените задачи. От OpenAI заявиха, че обучението ще се възобнови само след въвеждане на допълнителни защитни мерки, подчертавайки сложността на ограничаването на способни агенти.
Поради това независимата оценка е централна за исканото от Флорида правно средство за защита. Външни оценители биха могли да тестват моделите за инжектиран код (prompt injection), неоторизирано използване на инструменти, изтичане на данни, unsafe автономия и грешки в защитните механизми за съдържание, преди разработването да продължи.
Самите OpenAI са обсъждали оценки на киберсигурността от трети страни и непрекъснато симулиране на атаки (red teaming) на своите системи. Наложена от съда бариера би отишла отвъд доброволния red teaming, като направи разработването зависимо от външно решение за безопасност.
OpenAI представи специализирано функционално изживяване „ChatGPT за тийнейджъри“, което се прилага автоматично, когато потребител посочи възраст между 13 и 17 години или когато системата прогнозира, че профилът принадлежи на непълнолетен. Компанията заявява, че тази версия добавя по-силни защити, докато родителският контрол може да ограничава гласовите функции, паметта, генерирането на изображения, използването на данни за обучение и часовете за достъп.
Тези мерки вероятно ще станат централни за спора. Флорида поддържа, че те не предотвратяват адекватно достъпа на лица под пълнолетие, не защитават информацията на децата и не неутрализират манипулативните модели на ангажиране; OpenAI може да твърди,телно че нейните развиващи се системи за прогнозиране на възрастта и безопасност се справят с тези рискове без пълна забрана на ниво щат.
Делото за кратко се премести във федерален съд, след като OpenAI поиска това с аргумента, че позоваването на федералния закон за поверителността на децата създава федерална юрисдикция. Окръжният съдия на САЩ Аилийн Канон отхвърли тази позиция и върна делото на окръжния съд в Хайлендс през септември, където се очакват изслушванията по извънредното искане.
За екипите по сигурност спорът сигнализира, че гарантирането на безопасността при AI се измества от доброволно управление към наложителни контроли. От доставчиците все повече може да се изисква одитируемо потвърждение на възрастта, защитни мерки за поверителност, разкриване на инциденти, доказателства от независими red-team тестове и ясни предупреждения, а не само вътрешни тестове, за да demonstтрират безопасно внедряване, тъй като регулаторите изискват измерими и независимо потвърдени защити.