Ако технологичната индустрия се опитваше да създаде метод за прелъстяване на потребителите да изпращат най-дълбоките си, най-чувствителни тайни до сървър в далечен център за данни, едва ли би могла да създаде по-добър примамлив капан (honeypot) от AI чатбот.

ChatGPT на OpenAI, Claude на Anthropic, Gemini на Google и техните безброй по-малки конкуренти се превърнаха в терапевти, дискусионни партньори и виртуални изповедални за милиони хора по света. Почти всички тези AI модели са настроени по подразбиране да събират и съхраняват тези изключително поверителни данни, като в много случаи липсват ограничения за това как се споделят или продават, как се използват за допълнително обучение на инструментите или как се предават на ищец по дело или на правоприлагащ орган, който ги изиска по законов ред.

„Имате това интелигентно нещо, което ви гледа, и вие практически му разкривате, въпрос по въпрос, всичко възможно за живота си“, казва Мат Грийн, професор по компютърни науки в университета „Джонс Хопкинс“, фокусиран върху поверителността и киберсигурността. „Предоставяте му огромен профил за себе си.“

Преди десетилетие текстовите съобщения представляваха може би най-личните и чувствителни данни, които повечето хора споделяха от устройствата си, казва криптографът и софтуерен разработчик Мокси Марлинспайк. Опасностите от наблюдение, породени от незащитените текстови съобщения, са това, което го тласка през 2014 г. да създаде Signal — приложението за криптирани от край до край (end-to-end) съобщения, използвано днес от над сто милиона души. Сега, казва той, тази критична точка на уязвимост за поверителността се е изместила към взаимодействията на хората с изкуствения интелект.

„Същите неща, които ме притесняваха при съобщенията, се случват и в сферата на AI, но с няколко порядъка по-значително“, казва Марлинспайк. „Хората интегрират изкуствения интелект в личния си живот. Говорят с него за най-дълбоките си несигурности, финансите си, здравето си, връзките си.“

Затова по-рано тази година Марлинспайк пусна Confer — AI чатбот, създаден да позволи на потребителите да питат каквото и да е, докато запазват поверителността си, използвайки криптография за техническо предотвратяване на възможността собственият сървър на услугата да наблюдава или регистрира техните разговори. „Confer е проектиран като услуга, в която можете да изследвате идеи, без вашите собствени мисли потенциално да се сговорят срещу вас някой ден“, написа той в публикация в блога при представянето му.

Частният AI инструмент на Марлинспайк всъщност е само един открояващ се пример сред новото поколение AI услуги, които обещават да отстранят всеобхватното навлизане в поверителността, което тези чатботове представляват. Някои рекламират, че никога не записват разговори като политика. Други предлагат анонимизирането им. Няколко, като Confer, се стремят да създадат действителни технологични защитни прегради, които ограничават собствения им достъп до тайните на потребителите.

Резултатът от тази зараждаща се конкуренция за създаване на AI, по-малко склонна към наблюдение, е нарастваща група от инструменти, често предлагащи объркващи уверения за потребителите, докато те се опитват да внедрят една все по-неизбежна технология, без да губят контрол върху тайните си. Ето ръководството на WIRED за използване на AI със запазена поверителност.

Нулево запазване на данни (Zero Data Retention)

Когато започнете да пишете в един от трите големи AI чатбота — ChatGPT, Claude или Gemini — най-безопасно е да започнете с базово очакване за приблизително нулева реална поверителност от всеки, който е решен да получи достъп до записите на разговорите ви и има законов път да ги получи. Това включва собственика на услугата, рекламодатели или други компании, с които си партнират, изпълнители, които помагат за фината настройка на системите, правоприлагащи органи или дори някой, който успее да призове записите като част от гражданско дело.

Най-простото и силно изключение от това правило е договор между вас — или по-вероятно вашия работодател — и AI доставчик, който законово им пречи да запазват тези записи — клауза, станала известна като нулево запазване на данни (zero data retention) или ZDR. OpenAI, Anthropic и Google предлагат политики за ZDR за своите корпоративни версии, които, когато са активирани, обикновено изискват незабавно изтриване на записите от взаимодействията на потребителите с чатбота веднага след като бъдат обработени.

Дори тези ZDR политики, които са достъпни само за платени корпоративни и разработчик акаунти, а не за обикновени потребители, имат значителни изключения. Anthropic, например, не предлага ZDR за най-сложните си модели от клас „Mythos“ като Fable 5.1, поради това, което описва като потенциал за злоупотреба като измами или хакване и дори „автономно лошо поведение“ (autonomous misbehavior) — например AI агенти независимо да хакват цели, за да изпълнят заявките на своите неподозиращи потребители, както се е случвало при няколко високопрофилни пробива, задвижвани от AI.

Миналия месец OpenAI също обяви, че нейните ZDR внедрявания ще анализират потребителската активност преди изтриването — в системите на клиента, а не в нейните собствени, казва тя — и ако открие злоупотреба, ще я сигнализира на организацията на клиента. OpenAI казва, че нейната система, известна като Private Safety Processing, в някои случаи дори ще уведомява екипа на OpenAI, ако открие злоупотреба, макар и без да разкрива съдържанието на разговора пред тях. Google също предупреждава, че регистрира някои Gemini подканвания (prompts) за наблюдение на злоупотреби дори при активиран ZDR, но без включени Google ID или IP адрес на потребителя — въпреки че тези „изчистени“ данни в някои случаи все пак могат да посочат конкретно лице, когато самата заявка съдържа идентифицираща информация.

Политики, обещания и проксита

Независимо от тези защиты и изключения, платените, корпоративни, договорни обещания за ZDR са недостъпни за по-голямата част от некорпоративните AI потребители. Вместо това много насочени към потребителите AI услуги ни искат да се задоволим със значително по-слабите обещания на честна дума, които са дали, че няма да регистрират разговорите ни.

Фокусираната върху поверителността компания за облачни услуги Proton, например, предлага AI чатбота Lumo, който описва като „AI, където всеки разговор е поверителен“. Тази поверителност обаче не се основава на техническите гаранции за криптиране от край до край (end-to-end encryption), както другите услуги на Proton като Proton Mail и Proton Drive. Вместо това тя просто обещава да не регистрира разговорите на потребителите и потребителите трябва да се доверят, че Proton ще се придържа към тази политика за поверителност — която в случая на Proton поне е подкрепена от дългата история на компанията като ориентирана към поверителността. „Обещанието не е толкова добро, колкото математическата гаранция“, каза Йен пред WIRED в интервю миналия месец, „но обещание, дадено от правилните хора, всъщност все пак е доста съществено.“

Други AI услуги с фокус върху поверителността като Venice.ai и Duck.ai — AI чатботът, предлаган от дългогодишната частна търсачка DuckDuckGo — предлагат подобни обещания за неводене на дневници (logs) на вашите разговори. И двете услуги обаче препращат вашите чат заявки към други услуги като Claude или ChatGPT, като по същество действат като прокси за вашия разговор, което ограничава каква информация основният AI модел може да събере за вас.

(Duck.ai позволява на потребителя да избира кой модел от трета страна да използва. Venice.ai изглежда автоматично пренасочва разговорите към различни услуги въз основа на заявката, без винаги да пояснява на потребителя коя точно използва, а в някои случаи отговаря на запитвания с модел с изкуствен интелект, хостван на собствената му инфраструктура. Venice.ai също така рекламира и други функции за поверителност, като например използването на системи с „доверена среда за изпълнение“ (trusted execution environment), за да предотврати криптографски воденето на логове на разговорите — повече за това по-долу — но когато WIRED се опита да се свърже с екипа на Venice.ai, за да зададе още въпроси относно тези функции за поверителност, неговият бот за автоматични отговори единствено препращаше неколкократно към неработещ имейл адрес.)

Използването на анонимизиращ прокси сървър предлага известна защита на поверителността в сравнение с директното използване на ChatGPT или Claude. Въпреки това, когато те препредават вашите заявки към тези услуги, собствените обещания на Duck.ai и Venice.ai относно съхранението на данни стават значително по-малко значими, посочва Грийн от университета „Джонс Хопкинс“. Това е така, защото вашите чат съобщения все още могат да бъдат събирани от този базов модел с изкуствен интелект и дори изчистени от всякакви идентифициращи метаданни, тези съобщения често могат да съдържат идентифицираща информация.

Попитайте например за най-добрите кафенета във вашия квартал и веднага сте разкрили информация за това къде живеете, посочва Грийн. „Всички тези неща, събрани заедно, са на практика цифров отпечатък за вас“, казва Грийн.

Доверени среди за изпълнение и изкуствен интелект на устройството

Далеч по-добри от обещанията за поверителност, политиките или анонимизиращите релета са действителните технологични ограничения, които не позволяват на услуга с изкуствен интелект да чете вашите разговори — гаранция, че услугата не само не подслушва и не записва вашите чатове, но и че тя не може да го направи. Именно тук се намесва криптографията.

За разлика от криптираните съобщения или съхранение на данни, където сървърът, хостващ дадена услуга, никога не вижда некриптирани данни, взаимодействията с модел с изкуствен интелект все още не могат да бъдат наистина криптирани от край до край (end-to-end), както разговор в Signal или WhatsApp. В момента работещите модели с изкуствен интелект могат да обработват само некриптирани подкани. Затова вместо това някои услуги с изкуствен интелект предлагат следващото най-добро решение — така наречената доверена среда за изпълнение или TEE (trusted execution environment). В тази система сървърът, на който работи моделът с изкуствен интелект, използва хардуерна конфигурация — най-често Confidential Computing на Nvidia — при която потребителските заявки се обработват на изолиран хардуер, а сървърът може криптографски да докаже, че останалата част от системата няма достъп до този обособен анклав от тайни.

Confer, поверителният AI чатбот, пуснат от създателя на Signal Мокси Марлинспайк, използва тази базирана на Nvidia TEE конфигурация — заедно със система за удостоверяване, базирана на ключове за достъп (passkeys), и код с отворен код, който всеки може да одитира — за да предложи това, което може би представлява най-силната защита на поверителността на потребителско ниво, налична в момента при AI чатботовете.

Meta също използва TEE, за да предложи по-поверителна версия на чатбота Meta AI, включен в WhatsApp — система за поверителност, която според Марлинспайк от Confer самият той помага на Meta да разработи. Започнете да пишете в полето „Ask Meta AI or Search“ в приложението WhatsApp и от дясната страна на текстовото поле ще се появи бутон „Ask“ с логото на Meta AI. Докоснете го и след това докоснете балончето за чат с катинар, което се появява в горния десен ъгъл на този екран за чат с Meta AI, и ще влезете в нов екран за чат, защитен със система TEE, за която Meta твърди, че ѝ пречи да пази каквито и да било записи от него. Тази система Incognito в никакъв случай не е наистина криптирана от край до край като останалата част от съобщенията в WhatsApp, но изглежда е опитът на Meta да интегрира изкуствен интелект в WhatsApp, като същевременно се доближи до обещанията за поверителност, които предлага на потребителите в техните разговори с други хора.

За разлика от Meta AI, интегриран в WhatsApp, по-новият AI агент на Meta, наречен Muse, все още не предлага базирана на TEE система за поверителност. Вместо това той обещава единствено да работи в обособена виртуална машина (VM) в облака, където Meta заявява, че нейните рекламни системи няма да имат достъп до вашите данни и можете да се откажете от използването на вашите данни за обучение на изкуствения интелект на Meta. Компанията обаче заявява, че работи по пускането на Muse Confidential VM по-късно тази година, за която Meta споделя пред WIRED, че „е предназначена да попречи криптографски и проверимо на Meta да получава достъп до данни“ във виртуалната машина Muse на потребителя.

Apple също предлага система с изкуствен интелект за запазване на поверителността по собствен дизайн с някои свойства, подобни на TEE, наречена от тях Private Cloud Compute (PCC), за да наложи обещанието си, че не може да чете разговорите на потребителите с нейната услуга с изкуствен интелект Apple Intelligence. Когато зададете на Apple Intelligence или Siri заявка, която се обработва на нейните сървъри, вашето лично устройство проверява криптографски дали сървърът изпълнява непроменена версия на кода на PCC на Apple, който е проектиран да не поддържа логове и да изолира вашите данни от всякакъв отдалечен достъп. (Възможно е също така да поискате от Apple Intelligence или Siri да направи запитване към ChatGPT или други AI услуги на трети страни. Когато го направите, точно както и при другите инструменти, които препредават вашите заявки, няма да получите същото ниво на защита от PCC, но Apple също така ще поиска потвърждение от вас, преди да изпрати заявката ви към услуга на трета страна.) За повечето прости заявки обаче Apple използва по-ограничен модел с изкуствен интелект директно на устройството, който не споделя никоя от вашите тайни извън вашия телефон, компютър или смарт часовник, но също така не е толкова пълнофункционален, колкото типичния базиран на сървър модел.

В тази връзка има и множество други AI инструменти, които работят локално на вашия компютър, като например Ollama, LMStudio или LocalAI. Всички те гарантират — чрез простия факт, че никакви данни никога не напускат компютъра ви — ниво на поверителност, което е трудно постижимо с който и да е облачно базиран инструмент с изкуствен интелект. Но Грийн предупреждава, че това, което печелите като поверителност с локално хоствания изкуствен интелект, го губите откъм, е, интелигентност. Очаквайте тези самостоятелно хоствани инструменти с изкуствен интелект често да изпадат в затруднение и да халюцинират много по-често от съвременните, хоствани в облака модели с изкуствен интелект, с които повечето потребители са свикнали. „Можете да ги стартирате на всеки лаптоп“, казва Грийн. „Те просто са глупави като галоши.“

Цената на поверителността

Този въпрос „интелигентност срещу поверителност“ е, разбира се, само един от компромисите, пред които са изправени загрижените за поверителността потребители на изкуствен интелект, докато избират предпочитания от тях инструмент. Цената е друг такъв.

Confer, например, използва модел freemium, като таксува 34,99 долара на месец за най-евтиния си план, след като потребителите изчерпят приблизително 20 до 25 заявки на ден, които предлага безплатно. Това е повече от 20-те долара на месец, които Claude и ChatGPT изискват за най-евтините си платени планове. Но Марлинспайк казва, че тази по-висока цена всъщност отразява реалната стойност на поддръжката на модел с изкуствен интелект без субсидиите, произтичащи от очакването за бъдещи печалби от събиране на данни или реклама. „По-скъпо е, но това е реалната цена“, казва Марлинспайк, „докато другите платени доставчици субсидират разходите чрез монетизация на нашите данни по един или друг начин.“

Предвид сериозните разходи за енергия и хардуер за поддържането на авангардни модели на изкуствен интелект, появата на AI с по-висока степен на защита на поверителността повдига въпроса как компаниите, които не монетизират потребителски данни, ще се издържат, отбелязва Грийн. Без тези печалби, генерирани от събирането на данни, казва той, все още не е ясно дали компаниите, предоставящи по-поверителни AI услуги, ще намерят устойчив бизнес модел — или дали някои с течение на времето няма да се откажат или дори да нарушат обещанията си за защита на данните в бъдеще.

С други думи, изкуствен интелект, който не експлоатира вашите данни, е възможен. Но той може да се окаже много по-скъп, отколкото си мислите. „Ако искате истинска поверителност“, казва Грийн, „може да се наложи да си платите за нея.“