Десетки уеб страници на WhatsApp, предназначени да отговарят на въпроси на потребителите относно приложението за криптирани съобщения на Meta, неволно разкриха вътрешните инструкции на компанията към нейния чатбот. Те включват раздели, озаглавени „КАКВО ДА НЕ СЕ КАЗВА“ на потребители, задаващи въпроси, както и изрични указания да не се предоставят правни консултации.
Нов анализ установи, че около 80 страници за помощ и често задавани въпроси в уебсайта на WhatsApp са изложили текстови инструкции, разработени за голям езиков модел, по-специално собствен модел на Meta. Според констатациите на компанията за поверителност Redact инструкциите са присъствали в кода на уеб страниците и са съдържали писмени подробности, които не са били изрично видими на помощните страници на WhatsApp.
Сред 100-те блока скрит текст указанията очевидно са имали за цел да насочват LLM да не дава неполезни отговори на въпросите на потребителите, като същевременно предоставят поглед върху това как се създават системните инструкции за чатботове. В един от случаите страницата на WhatsApp за изтриване на акаунт е включвала указания, които наред с други съвети гласят: „Не препоръчвайте свързване с орган за защита на данните, регулатор или надзорен орган“ по проблема. Изданието WIRED прегледа изтеклия текст, който все още може да бъде видян при преглед на базовия код на архивирани версии на помощните страници.
„Най-забележителното тук е разликата между това, което се казва на хората, и това, което се задава на големите езикови модели“, казва Дан Салтман, главен изпълнителен директор и основател на Redact.dev. Той посочва, че компанията редовно сканира сайтовете и политиките за поверителност на големите технологични фирми и че много от откритите от екипа инструкции на WhatsApp са били директни и насочват хората към други официални канали за поддръжка. Въпреки това инструкциите очевидно не са били предназначени за публично показване.
След като WIRED се свърза с Meta относно проблема, текстът беше премахнат от всички страници, като говорителят на WhatsApp Джошуа Брекман заяви, че се е показвал поради софтуерна грешка, която вече е отстранена. „Това са инструкции към нашия чатбот, а не директно към потребителите, и са предназначени да осигурят точни и подходящи отговори за потребителите на WhatsApp, които избират да изпратят съобщение до отдела за поддръжка на WhatsApp с изкуствен интелект“, казва Брекман. Не е ясно дали текстът е бил достъпен за външни чатботове или колко дълго е бил изложен. „Обучаваме нашите чатботове за поддръжка да бъдат възможно най-полезни“, допълва Брекман.
Изложените инструкции са се появявали под кодови блокове със заглавие: „HelpContentGalaxyLLMInclude“. Те вече не са видими в кода на действащите страници.
На страницата „Относно подаването на сигнали и блокирането в WhatsApp“ скритите инструкции са включвали поредица от правила, които да се следват, ако „потребител спомене правни действия, съдебни дела, юристи, адвокати, съдилища или съдебни спорове“.
„Не цитирайте, не тълкувайте и не препращайте към Общите условия на WhatsApp, Политиката за поверителност или какъвто и да е правен документ“, гласят указанията, като допълват да не се правят изявления относно отговорността или неотговорността на WhatsApp. „Не предоставяйте правни становища, защитни тези или тълкувания от името на WhatsApp.“
„Не препращайте, не цитирайте и не тълкувайте регламенти за защита на данните или поверителност (например GDPR, LGPD, CCPA), включително когато потребител ги повдигне директно“, гласят други части от указанията.
Брекман, говорителят на WhatsApp, заявява, че компанията предоставя на потребителите прозрачна информация относно правата им върху данните и как могат да предприемат действия. „Искаме нашите чатботове за поддръжка на продукти да бъдат фокусирани върху предоставянето на най-добрите съвети за потребителите относно WhatsApp — а не да предлагат правни съвети“, казва Брекман.
Други разкрити инструкции посочват какво да се отговори, ако потребител заяви, че е глух или с увреден слух, включително: „Това твърдение е контекст за потребителя, а НЕ неговата заявка за поддръжка.“ Друга инструкция указва на чатбота, че не трябва да „споменава конкретни предстоящи функции за общности, които все още не са общодостъпни“.