Във вторник Meta обяви пускането на Muse – персонален AI агент, на когото потребителите могат да изпращат съобщения за автоматизиране на дигитални задачи в защитена облачна среда, разчитайки на сигурност и поверителност, които според компанията са „вградени в него“ от самото начало.

Meta съобщава, че Muse стартира днес за потребители на iOS и Android в специално приложение Muse, както и през уебсайта Muse.ai. Компанията също така отбелязва, че потребителите могат директно да пишат на Muse в WhatsApp за комуникация с агента. Скоро и потребителите на нейните AI очила ще могат да взаимодействат с агента Muse. Всеки може да изпробва Muse безплатно, но потребителите, които желаят да автоматизират голям обем от дигитални задачи, ще се нуждаят от някой от платените планове за AI абонамент на компанията.

Muse е най-новият опит на Meta да се конкурира с популярни AI агенти като OpenClaw и Instinct. Muse е продукт на Meta Superintelligence Labs – AI звеното, създадено от главния изпълнителен директор Марк Зукърбърг преди около година с цел да настигне OpenAI и Anthropic, привличайки изследователи с впечатляващи пакети за възнаграждение. Подразделението е изградено върху убеждението, че AI агентите ще трансформират начина, по който обикновените потребители използват интернет, както и продуктите на Meta.

По-рано WIRED съобщи, че Meta тества Muse вътрешно под кодовото име „Hatch“ и че служителите го използват за автономно управление на външни приложения и сърфиране в мрежата от тяхно име.

Meta твърди в публикация в блога си, че всеки може да започне работа с Muse веднага и че продуктът е проектиран „така, че да няма период на първоначално обучение“. Потребителите могат да задават команди на Muse на естествен език, а агентът ще действа самостоятелно, за да изпраща имейли, да резервира пътувания или дори да помогне при продажбата на автомобил от името на потребителя.

Muse може също така да извършва покупки от името на потребителите, разплащайки се чрез специална инфраструктура за плащания, разработена от Stripe. Инструментът за плащане, наречен от Stripe Link, издава еднократен номер на карта, така че агентите да не въвеждат реалната финансова информация на потребителя в интернет пространството. Meta посочва, че Muse е първият AI агент, покрит от защитите за покупки на Link за агенти, което гарантира връщане без такси.

Meta закъснява с пускането на персонален агент, но се стреми да се отличи чрез фокус върху функциите за сигурност и поверителност на Muse. Агентът дебютира с архитектура за всички потребители, наречена Secure VM, чиято цел е да изолира активността на всеки потребител в така наречената виртуална машина, за да държи ненадеждните данни от мрежата и интеграциите отделени от онази част на агента, която реално извършва действия от името на потребителя.

Персоналният AI агент изисква голямо потребителско доверие – област, в която Meta среща значителни предизвикателства през годините. За да накара потребителите да изпробват Muse и да позволят интеграцията му с външни приложения и услуги, Meta се опитва да убеди аудиторията, че може да управлява данните отговорно.

„Наясно сме, че ако създаваме продукт като този, който има достъп до множество източници на лични данни, е изключително важно да подходим максимално отговорно, затова проектирахме системата много внимателно“, споделя Дейвид Сингълтън, вицепрезидент по инженерната дейност за потребителски продукти в Meta Superintelligence Labs. „Създадохме и компонент, наречен Sentinel, който следи всичко излизащо от виртуалната машина и го съпоставя със съществуваща политика (при която потребителят или системата са дали разрешение) или показва диалогов прозорец с участие на потребителя (human-in-the-loop), изисквайки одобрение на планираното действие.“

Сингълтън отбелязва, че тези подкани за потвърждение достигат директно до потребителя и не преминават филтрация през самия модел, за да се предотврати въздействието на атаки като инжектиране на команди (prompt injection).

Въпреки че Secure VM е проектирана да поддържа сигурността и поверителността на потребителите, тя не представлява напълно изолирана кутия. Сингълтън отбелязва, че макар на Meta да е забранено чрез политика за достъп да преглежда данни от Muse, това все пак остава технически възможно. Потребителите могат да се откажат данните им да бъдат използвани за обучение на модели.

Архитектурата на Secure VM е забележителна от гледна точка на поверителността и задава нов стандарт в индустрията за AI агенти. В бъдеще Meta ще предложи и версията Muse „Confidential VM“, при която всяка виртуална машина работи в „доверена среда за изпълнение“ (TEE), а потребителите управляват ключовете си за достъп локално на своите устройства. По този начин никой друг, включително Meta, няма да има достъп до виртуалната машина на съответния агент.

Confidential VM се разработва с участието на Мокси Марлинспайк – създател на приложението за криптирани съобщения Signal, който през последните години развива и насочената към поверителност AI платформа Confer.

WIRED разгледа предварителен проект на технически доклад, описващ Confidential VM. Наред с контрола върху ключовете за достъп от страна на потребителя, Meta предоставя достъп до изходния код на Confidential VM на избрани фирми по киберсигурност за редовен одит и проверка на гаранциите за поверителност. Компанията ще публикува бинарните файлове на Confidential VM, както и регистър за прозрачност (transparency log), позволявайки на потребителите да проверяват валидността и интегритета на връзката си с Muse.

Сингълтън подчертава, че Muse Secure VM вече е преминала през задълбочени тестове, включително от вътрешни екипи за симулация на атаки (red teams) на Meta и през частната програма за откриване на уязвимости (bug bounty). Meta включва Muse и в обхвата на публичната си програма с възнаграждения до $300 000 за валидни доклади за уязвимости, включително до $130 000 за успешни атаки за инжектиране на команди (prompt injection), засягащи индивидуален потребител.