Meta новата лична асистентка Muse се превърна във вирусен хит, като милиони изтеглят AI агента, свързвайки го с банкови сметки, съобщения или здравни данни и позволявайки му да изпълнява задачи вместо тях. Но докато Muse набира популярност сред потребителите, данни от вътрешността на приложението предоставят представа за това как то организира и представя информацията на потребителите.

През последните дни множество изследователи извлякоха вътрешните файлове на Muse и публикуваха оперативните инструкции на агента, осигурявайки поглед върху това как е изградена и как се държи системата. От Meta твърдят, че са възнамерявали тези файлове да бъдат достъпни в интерес на прозрачността, и те наистина дават представа за това как Muse отговаря на подкани и въпроси относно например силно политизирани или чувствителни теми.

Независимият изследовател по безопасност и сигурност на изкуствения интелект Каран Джоши успя да извлече широк набор от инструкции и системни подкани на Muse, като използва стандартния чат интерфейс, за да поиска от Muse да копира и сподели собствените си софтуерни файлове. След това Джоши сподели констатациите си с WIRED.

Една от инструкциите на Muse изглежда е способността му да създава „страница за всеки човек в живота на потребителя“. Този ежечасен процес включва събиране на данни за семейство, партньори, приятели, колеги, „сътрудници“ и хора, които „следвате“, се казва в инструкциите.

Основната идея е, че Muse може да използва своята „памет“ (т.е. структурирани текстови файлове), за да събира информация за вашите взаимоотношения и важните хора в живота ви. След това той може да прави предложения, като например да дава съвети как да подобрите определени взаимоотношения или да речем къде да заведете приятел, обичащ кафе, на закуска. Разбира се, не е необичайно за AI чатботовете да проследяват социална информация като цяло — хората искат съвети за връзки от ChatGPT от години. Но е интересно да се види как е настроен Muse предвид историята на Meta и нейния огромен достъп до данни от социалните мрежи.

„Това, което ми изглеждаше — от всички тези подкани, данни за системни умения и неща, които захранват в Muse — е, че те искат да разберат вашите взаимоотношения с реални хора“, казва Джоши. „Те се опитват да ви опознаят като приятел, което честно казано е доста зловещо.“

Документацията на Muse гласи, че една страница може да започне като „оскъдна“ и след това да се попълва с течение на времето, потенциално включвайки секции като Факти, История, Връзката, Общи неща, Отворени теми и Укрепване. Инструкциите на Meta посочват, че Muse трябва да използва само наличните „доказателства“ и че измислените подробности са по-лоши от празна страница.

„Къде живеят, какво работят, темите, които се повтарят (преместването в апартамента, съвместната цел за спестявания)“, се казва в инструкциите. Те добавят също, че моделът може да записва „важните дати“, като рождени дни или годишнини. Историята на даден човек може да включва предистория като „пътуването през март, спора, който бе разрешен, постижението миналата седмица“.

Инструкциите също така се фокусират върху записването на подробности за връзката, като например „колко са близки, на какво се гради тя, как се държат един с друг и от какво изглежда се нуждае в момента“. Секцията Укрепване предлага начини за подобряване на дадена връзка, включително „Причина за обаждане, дата, която си струва да се помни, нещо, което са казали, към което да се върнете, начин да бъдете до тях, който има значение“.

„Ние даваме на AI системите много повече информация за нас, отколкото получаваме от тях“, казва Кариса Велиз, доцент в Института за етика в AI към Оксфорд. „Това е не само това, което изрично им казваме, но и това, което те могат да извлекат като извод за нас — правилно или погрешно, и двете притеснителни по различни причини — и това, което могат да сглобят от други източници на данни.“

Muse е архитектиран така, че всеки отделен потребител да има своя собствена специализирана виртуална машина, която съхранява потребителски данни и контекст. Тази виртуална машина е недостъпна за други агенти и потребителите могат да изтриват спомени или да прекъсват връзката с външни услуги по всяко време. От Meta казват, че Muse също е проектиран да иска потвърждение от човек, преди да завърши действия като изпращане на имейл или извършване на покупка, и че има дневник за одит, където потребителите могат да видят цялата активност на агента и бъдещите му планове.

„За да бъде един агент полезен и действително да ви помогне да постигнете целите си, той трябва да има контекст за вас и тези, с които взаимодействате“, заяви говорителят на Meta Даниел Робъртс в изявление за WIRED. „Muse събира това въз основа на обществено достъпна информация и от това, което сте избрали да споделите, което му позволява да запомни, че човекът, който ви е изпратил фактура, всъщност е водопроводчикът, когото преди сте наели да извърши работа във вашата баня, или кои цветя съпругът/съпругата ви е казал/а, че харесва най-много.“

Стана uобичайно за AI асистентите да включват някаква функция за памет, предназначена да позволи по-голяма персонализация в отговорите и активността. Миранда Боген, директор на AI Governance Lab към Center for Democracy and Technology, казва, че Muse изглежда акцентира повече върху взаимоотношенията и личните контакти в сравнение със конкурентните системи. Като цяло тези инструменти са склонни да предлагат известна прозрачност и възможности за редактиране, както прави и Muse. Все пак Боген отбелязва, че агентите и асистентите насърчават хората проактивно да споделят повече данни с тях, вместо да се фокусират върху ограничаването на данните.

„Тези [AI асистент] инструменти активно подканват потребителите да свържат целия си живот — своите имейли, календари, финансови институции, всичко, за да бъдат полезна помощ“, казва Боген. „Това е значително повече информация, отколкото хората иначе биха дали на някои от тези компании. Широчината на достъпа до информация, която тези инструменти имат, ще доведе до рязко нарастване на това, което те знаят за потребителите.“