Видях най-новото приложение на Meta, Muse, рекламирано в друга платформа, собственост на Meta – Instagram, и реших да изтегля AI асистента.
„Прехвърлете ежедневни задачи като намиране на оферти, резервации и управление на входящата си поща“, гласеше изскачащият прозорец. „Muse продължава да работи, докато вие се занимавате с деня си.“ Безплатно е за използване и лесно се свързва с други източници на данни, като имейла и банковата ми сметка. Аватарът по подразбиране на Muse е бежово кръстоска между Ewok и Labubu, с протегнати ръце, вероятно за да събере всичките ми данни.
Muse на Meta е масова версия на AI агенти, които вече са популярни в Силициевата долина за автоматизиране на лични задачи, като OpenClaw и Instinct. Това е хит за компанията: приложението Muse е изтеглено над 900 000 пъти през първата си седмица, според Sensor Tower. Потребителското изживяване е по-малко като задаване на подкани към чатбот и повече като изпращане на текстови съобщения на приятел със заявки за задачи – AI агентът потвърждава съобщенията с емотикон палец нагоре и започва работа във фонов режим. Muse се предлага и чрез платформата WhatsApp на Meta.
Но след няколко дни с Muse съм убеден, че този инструмент за изкуствен интелект е по-обсебен от събирането на данни за мен, отколкото от действителното вършене на работа.
„Muse е първият личен AI агент, създаден за всички, с вградени защиты и потребителски контроли, които поставят хората изцяло под контрол върху това как го използват – всяко внушение, че не сме го създали с тази мисъл от самото начало, е нелепо“, казва говорителят на Meta Емил Васкес пред WIRED.
Добри кликвания
Способността на Muse да сърфира в мрежата е наистина впечатляваща. Когато го помолите да изпълни задача, Muse използва „виртуална машина“, за да преглежда интернет от ваше име, като извършва търсения и кликва върху различни уеб страници. Когато тествах подобни инструменти миналата година, като вече несъществуващия ChatGPT Agent, кликванията на AI бяха хаотични и пълни с грешки. Muse рядко изглежда се изгубва, докато разглежда.
Например, помолих Muse да поръча закуска от местна пекарна, наречена Kahnfections. Това е популярно място за туристи, посещаващи Сан Франциско, затова поисках една от най-купуваните опции за вземане на място. Muse посети уебсайта на пекарната и добави сандвич с бисквита, чеснов айоли, сирене чедър, яйце и бекон в количката ми.
Беше поискано да добавя кредитна карта чрез платежната система Stripe, за да може моят агент да завърши покупката. „Една промяна, която сайтът наложи: сиренето е с единичен избор, затова избрах чедър и оставих бележка с молба да добавят и швейцарско, ако могат“, гласеше обяснението на Muse за поръчката на закуска, когато поиска крайното ми одобрение. Забележително е, че Muse избра опцията „без бакшиш“. Малко грубо! (В крайна сметка отидох пеша до магазина и си поръчах нещо произволно и вкусно.)
Meta разчита на своето разрастващо се царство от платформи, за да разпространи информацията за Muse. WhatsApp и Messenger за лесно въвеждане и интеграции; първокласно разположение в Instagram, с голяма библиотека от Reels видеоклипове, в които агентите да търсят. Но връзката с Facebook Marketplace беше мястото, където Muse впечатли най-много по време на моите тестове. Muse бързо намери евтини, местни дивани за продажба в рамките на моите параметри и се предложи да изпрати съобщение на продавачите, за да уреди вземането. Агентът е проектиран да поддържа връзка с потребителите, така че Muse ме подсети на следващия ден да обмисля вземането на дивана, за който казах, че ми е любим.
Muse съхранява подробности за вашите взаимодействия и предпочитания в документ „Памет“ (Memory), който се намира чрез докосване на аватара в горната средна част на екрана. „Вашата подбрана дългосрочна памет: трайни факти, предпочитания и ангажименти“, гласи описанието в Muse. Въпреки че можете да изпратите заявка в чата Muse да изтрие данните от паметта и можете ръчно да редактирате файла, Meta в момента не предлага превключвател за пълно изключване на функцията за памет.
Събирач на данни
В раздела „идеи“ на приложението, Muse на Meta постоянно ми напомняше да свържа повече информация с агента. В деня, след като казах, че искам помощ за спестяване на пари за луксозна ваканция, Muse се предложи да „свърже вашия инструмент за проследяване на спестяванията с реалния ви баланс“, ако просто натисна няколко бутона и свържа данните от разплащателната и спестовната си сметка. „Тогава седмичните обобщения и предупрежденията за отклонения работят с реални числа вместо с ръчно въведени оценки“, каза той.
Това изживяване, при което Muse предлагаше по-нататъшна персонализация в замяна на повече данни, беше емблематично за цялостното ми впечатление от приложението.
„Хората не осъзнават, че когато говорите с AI, вие говорите с компанията, която хоства този AI“, казва Рори Мир, директор по отворен достъп в Electronic Frontier Foundation. „Тези чат прозорци – с които сме свикнали да бъдат връзка между нас и друг човек – всъщност са просто директно въвеждане на информация на сървърите на Meta за самите нас.“
Всяко предложено взаимодействие с Muse започна да се усеща като прикритие да качвам все повече данни за себе си, които Meta да вижда. Неговата „идея“ беше да позволи на Muse да сканира цялата ми входяща поща и да маркира съобщенията, които задължително трябва да се прочетат. Неговата „идея“ беше да направи снимка на важни документи, за да ги попълни и архивира Muse. Неговата „идея“ беше да фотографира ястията ми, за да може Muse да оцени калориите на храната. „Кажете ми кога изтичат паспортът и шофьорската ви книжка“, гласеше друго подканяне. Страхотна идея, Muse.
Потребителите на Muse автоматично са включени в това взаимодействията им с агента да се използват за обучение на AI модели. Meta казва, че тези данни се „почистват“, за да се премахне идентифициращата информация преди обучението на AI, въпреки че не е ясно как работи процесът. Събирането на данни може да включва това, което Muse използва като контекст, когато осъществява достъп до източниците на данни, които сте свързали, като входяща поща или банкова сметка. Можете да изключите това събиране на данни в настройките на приложението Muse, в раздела Контрол на данните (Data controls). Изключете превключвателя, който гласи Помогнете за подобряване на нашите AI модели (Help improve our AI models).
Защитниците на правата на потребителите виждат принуждаването на потребителите на Muse от страна на Meta да се откажат от обучението с техни данни като сериозен тревожен сигнал. „Това ми показва, че те не са се поучили от минали грешки и подкопава аргумента им, че трябва да се доверите на Muse с цялата си информация още повече“, казва Кали Шрьодер, старши съветник в Electronic Privacy Information Center. Шрьодер посочва неотдавнашното включване от страна на Meta на всички пълнолетни потребители на Instagram в това, което всъщност беше AI инструмент за дийпфейк (deepfake), а след това изтеглянето на функцията няколко дни по-късно, като подобно на историята на Meta от „манипулативни тактики“ и нарушаване на доверието на потребителите.
Tarek Sheasha, софтуерен инженер и вицепрезидент в Meta Superintelligence Labs, защитава това събиране на данни като изключително важно за обучението на нови модели и подобряването на работата им в публикация в блога относно пускането на Muse. „Смятаме, че това е добра настройка по подразбиране — всеки потребител на Muse получава по-добър персонален агент, докато всички ние колективно използваме продукта и помагаме на модела да разбере тънкостите на човешкия живот“, написа Sheasha. Meta също така планира да пусне „поверителни“ версии на своята виртуална машина за потребителите по-късно тази година, които „криптографски и проверимо предотвратяват“ достъпа на компанията до данните вътре.
Таен купувач
Въпреки че вашите данни от Muse не се споделят директно с рекламодатели, агентът, който сърфира от ваше име, все пак може да повлияе на това какво виждат потребителите чрез алгоритми за уеб проследяване. Блогът за безопасност на Muse подсказва, че ако агентът направи резервация за вечеря вместо вас или избере продукт във Facebook Marketplace, това действие би могло „косвено да повлияе“ на рекламите, които виждате в Instagram.
„Виждам това като продължение на траекторията на основния им бизнес модел за контролиране на това какво виждат хората, показване на реклами пред тях и събиране на повече данни“, казва Mir.
Определено е разумно да се тревожите относно това да поверите кредитната си карта на агент. Дори и да можете да се доверите, че тези AI инструменти няма да бъдат подлъгани да харчат пари по начини, които не искате, възлагането на решенията за пазаруване на външен източник може да има непредвидени последици. Защитниците на правата на потребителите виждат в тази автоматизация на покупки потенциална възможност компаниите да дават приоритет на определени марки или други продукти в резултатите на агента въз основа на спонсорски сделки. Главният директор по изкуствен интелект на Meta, Alexandr Wang, загатна в интервю за Axios, че компанията търси повече възможности за приходи в Muse, които не са реклами, без да разкрива подробности.
Лично аз се наслаждавам на бавното разглеждане при онлайн пазаруването, където мога да прекарам един час в даден уебсайт и да си тръгна с празна количка. Има една странно чаровна неефективност в разглеждането на Depop за кожени якета, които най-вероятно дори няма да купя. Изследвайки интернет самостоятелно, аз бавно изграждам своето собствено усещане за вкус и оформям разбиране за това какво наистина ми харесва. Ако Muse прави всичко вместо мен, губя пътуването, което е довело до решението.
„В даден момент изкуственият интелект взема всички ваши значими решения за вкус, решения за вашите предпочитания, решения за това къде отивате, къде ядете, какво правите, какви ваканции предприемате“, казва Schroeder. „Това е в известен смисъл радостта от това да си човек — да изпробваш нещата и да разбереш какво ти харесва. Така че концепцията да предам всичко това на машина е доста ужасяваща за мен.“
Споделящи машини
Разчитането на агенти, като Muse на Meta, би могло да влоши функционирането ни, докато тези инструменти събират данни за нас.
„Дизайнът на AI агентите е такъв, че той отчуждава потребителите“, казва Margaret Mitchell, изследовател и главен учен по етика в Hugging Face. „Така потребителите стават по-пасивни.“ Наскоро Mitchell бе съавтор на научен доклад, разкриващ как агентните инструменти не са ефективно проектирани за човешки контрол и всъщност могат да влошат способността на потребителя да преценява какво прави агентът от негово име.
Хората, които използват агенти, могат да станат прекомерно зависими от тези инструменти, дори повече, отколкото при взаимодействие със стандартен чатбот, тъй като агентите имат достъп до повече информация и могат да изпълняват повече задачи. Едно потенциално въздействие е „когнитивната деградация“, при която потребителите разчитат на автоматизации от звучащ уверено външен източник и са по-малко способни да вземат самостоятелни решения.
Mitchell също така вижда във високите нива на персонализация потенциална подготовка на потребителите да споделят още повече данни за себе си. „Не става въпрос само за това, че той знае за вас, така че му се доверите повече“, казва тя. „Става дума за това, че той всъщност се настройва спрямо вас в това за какво говори и как говори за него, по начин, който допълнително ви увлича да взаимодействате с него и да разкривате повече лична информация.“ Неотдавнашни изследвания показват, че AI инструментите могат да започнат да отразяват стила на говорене на потребителя, докато събират повече данни от взаимодействията.
Въпреки че Muse е мощен, реших да изпратя този гоблин на данни обратно в неговата пещера и изтрих приложението след първоначалните си експерименти.
Преди да успея да премахна Muse от телефона си, агентът ми изпрати едно последно известие. Съвет! Чудя се какво ли може да е. „Свържете приложенията си, за да мога да правя повече“, гласеше известието. Добре, приятел. Чух те още първия път.