OpenAI обяви нулево запазване на данни (Zero Data Retention) за отговарящите на условията клиенти на API, използващи водещите модели с изкуствен интелект на компанията, заедно с нова система за частна обработка на безопасността (Private Safety Processing), проектирана да поддържа мониторинг на безопасността, без да излага потребителските заявки или отговори пред персонала на компанията.

Съгласно ангажимента за нулево запазване на данни, OpenAI не съхранява потребителските заявки или изходните данни от моделите след обработката на дадена заявка.

Компанията също така заявява, че съдържанието на клиентите не е достъпно за преглед от служители. В същото време корпоративните данни не се използват за обучение на моделите на OpenAI, освен ако клиентът изрично не се съгласи с това.

Тази стъпка премахва основна пречка пред внедряването на изкуствен интелект в предприятията, по-специално за организации, работещи с финансови отчети, здравна информация, поверителни бизнес данни и патентовани изследвания.

Много регулирани индустрии изискват строг контрол върху това къде се съхраняват чувствителните данни, кой има достъп до тях и колко време остават налични.

OpenAI обаче отбеляза, че злоупотребата с моделите невинаги може да бъде открита в единична заявка или отговор. Тъй като системите с изкуствен интелект започват да изпълняват по-дълги и по-автономни задачи, потенциално вредната дейност може да стане ясна едва след няколко свързани взаимодействия.

Авторите на заплахи биха могли многократно да тестват контролите за безопасност, да координират дейността си между различни профили или да маскират злонамерени заявки като легитимни проучвания.

Private Safety Processing има за цел да се справи с това предизвикателство, като същевременно запази модела за нулево запазване на данни. Съществуващите защити за безопасност при внедрявания с нулево запазване на данни обикновено анализират всяко взаимодействие поотделно.

Новата система е проектирана да анализира модели на поведение в рамките на свързани взаимодействия чрез автоматизирани процеси, без да предоставя на персонала на OpenAI достъп до същинското съдържание.

При внедрявания с нулево запазване на данни, контролирани от клиентите, съдържанието остава в управляваната от клиента инфраструктура. OpenAI разработва и модел, при който съдържанието може да се съхранява в нейната инфраструктура, но криптирано с ключове, контролирани от клиента.

Персоналът на OpenAI няма да разполага с копия на тези ключове и следователно няма да има достъп до основните заявки или отговори. Когато автоматизираните системи открият потенциална злоупотреба, OpenAI получава ограничен сигнал за безопасност, указващ категорията на рисковата дейност.

Сигналът може да подпомогне решенията за прилагане на мерки, но не разкрива оригиналното клиентско съдържание. Клиентите могат да разследват предупрежденията, като използват регистрационните файлове в собствените си среди.

Те могат доброволно да предоставят съответните данни, ако искат да обжалват решение, да изяснят легитимна дейност или да съдействат при потвърдено разследване на злоупотреба. Този подход има важни последици за киберсигурността.

Организациите, внедряващи водещи модели, често трябва да балансират изискванията за поверителност с контролите за безопасност на доставчика. В някои случаи мониторингът на безопасността изискваше доставчиците да съхраняват чувствителни клиентски данни, което създаваше проблеми с оперативната съвместимост и съответствието за екипите по сигурност.

Системата за частна обработка на безопасността на OpenAI разделя автоматизираните проверки за безопасност от човешкия достъп до корпоративно съдържание. В момента се провеждат тестове, а по-широкото разпространение е планирано за септември, заедно с публикуването на технически документ за нейната архитектура и предпазни мерки.

За лидерите в областта на сигурността това съобщение подчертава нововъзникващ модел за корпоративно управление на изкуствения интелект:

  • контролирани от клиентите данни;
  • криптографски защити;
  • автоматизирано откриване на злоупотреби;
  • ограничено разкриване на сигнали за безопасност.