OpenAI представя предварителна версия на системата „Private Safety Processing“ (Частна обработка на безопасността) пред първите си клиенти, които търсят по-голяма сигурност относно начина, по който данните им ще бъдат защитени с нарастването на възможностите на системите с изкуствен интелект. Системата идентифицира модели на поведение в рамките на свързани взаимодействия, като същевременно ограничава достъпа на служителите на OpenAI до съдържанието. Компанията планира да започне внедряването на системата и да публикува технически документ (white paper) през септември.
„Нито една лаборатория за изкуствен интелект не може да се справи сама с възникващите рискове. Private Safety Processing отразява този подход и се оформя под влиянието на клиенти от различни индустрии, региони и с различен размер на компаниите“, пишат от OpenAI.
За отговарящите на условията клиенти на API, които използват опцията за нулево запазване на данни (Zero Data Retention - ZDR), подканите (prompts) и отговорите на моделите не се съхраняват след обработката на заявката. Изключение се прави за изображения, маркирани като потенциални материали със сексуално малтретиране на деца (CSAM), които могат да бъдат запазени за ръчен преглед и докладване. OpenAI заявява, че данните на корпоративните клиенти не се използват за обучение на нейните модели, освен ако самите те не изразят изрично съгласие за това.
Контрол на достъпа до съдържание
Внедряването на ZDR съхранява съдържанието върху инфраструктура, контролирана от клиента. OpenAI разработва и друга опция, която позволява съхранението му в инфраструктурата на компанията, но с използване на ключове за криптиране, контролирани от клиента. И при двете конфигурации автоматизираните системи могат да идентифицират потенциална злоупотреба и да връщат ограничени сигнали за безопасност, без да разкриват подканите или отговорите.
Анализ на безопасността в различните взаимодействия
Системата „Private Safety Processing“ надгражда автоматизираните защити, използвани при ZDR и други внедрявания. Настоящите предпазни мерки оценяват заявките индивидуално, докато новата система анализира свързани дейности, за да открие модели на потенциална злоупотреба.
„В здравеопазването опазването на огромни количества чувствителни данни и гарантирането на тяхната точност и цялост са от съществено значение за спечелването на доверието на лекарите и пациентите. Възможността да работим директно с екипите по продукти, инженерство, политики и лидерство на OpenAI, за да помогнем за оформянето на тези практики, доведе до несравнимо партньорство. Такова ниво на сътрудничество по отношение на доверието и сигурността се среща рядко. Те слушат, предприемат действия и това ни вдъхва доверие в OpenAI. Това ниво на партньорство по отношение на доверието и сигурността просто не е обичайно“, споделя Зак Пауърс, CISO на Abridge.
Системата може да анализира данни, съхранявани в контролирана от клиента инфраструктура или чрез планираната от OpenAI опция за криптирано съхранение. Когато открие потенциален риск, компанията получава дефиниран сигнал, указващ вида на съответната дейност. Тази информация може да послужи за вземане на решения за прилагане на мерки за сигурност.
Клиентите могат да разследват сигналите, като използват информацията, налична в техните собствени системи, и да споделят уместни детайли с OpenAI за обжалване на решение, изясняване на легитимна дейност или в подкрепа на разследване на потвърдено нарушение.