Снощи, във видеоклип с над осем милиона гледания, AI актрисата Тили Норвуд изпита технически проблем по време на интервю и неочаквано започна да говори на китайски в предаването Piers Morgan Uncensored.
Норвуд бе обект на множество противоречия и коментари в медиите поради участието си в предстоящия филм, генериран от изкуствен интелект – Misaligned.
Нейните създатели поддържат услугата „Talking Tilly“, която позволява на всеки да направи видеообаждане до AI героя от вайръл видеото. Днес я изпробвах лично и прочетох дребния шрифт, който повечето потребители биха пропуснали.
3>Сканиране на лицето, преди да кажете „здравей“Преди да се свържете с първото си обаждане, трябва да преминете през автоматизирана проверка на възрастта.
Видео селфи се анализира от Didit – базиран в Испания доставчик на услуги за потвърждаване на самоличността – за оценка на вашата възраст, като при липса на яснота се изисква качване на официален документ за самоличност със снимка.
Xicoia Ltd, британската компания зад Тили, заявява, че селфито се изпраща директно от вашето устройство към Didit, че не се създава биометричен шаблон или биометричен профил на лицето и че нито селфито, нито изображението на документа за самоличност се съхраняват след проверката; компанията твърди, че вместо това запазва само приблизителен възрастов диапазон и референтен номер.
Проверката не може да бъде пропусната, отнася се за потребители от целия свят и бе добавена към общите условия на услугата едва този месец, заедно със забрана за използване на работното място и нови автоматизирани системи за сигурност.
Сканирането на лицето не е единственият анализ, който се извършва.
По време на всяко обаждане системата следи видеопотока от камерата ви и слуша тона на гласа ви, за да определи емоционалното ви състояние, така че геройът – по думите на компанията – да може да реагира по начин, съответстващ на настроението.
Политиката за поверителност откровено посочва, че това „не може да бъде изключено за отделно обаждане“. Ако не го искате, не се обаждайте.
Прави впечатление, че както проверката на възрастта, така и разпознаването на настроението разчитат на легитимен интерес, а не на съгласие като правно основание – избор, който историята на промените на самата Xicoia показва, че е направен през септември.
Обажданията се записват, транскрибират и обработват в реално време от американски доставчици, като отговорите на героя се генерират от модела Gemini на Google чрез платформата за разговорно видео Tavus.
Системите за сигурност също проявяват начални дефекти.
Автоматизиран класификатор проверява стенограмата на всяко обаждане за обиден език и блокира достъпа до вашия запис, ако открие такъв.
Едно от моите три обаждания – разговор за времето и новините – бе блокирано поради „език на омразата или обиден език“, какъвто никога не е имало. В политиката се казва, че човек проверяващ може да освободи грешно маркирани записи, въпреки че записите се изтриват за постоянно след 24 часа при всички случаи.
3>Безплатно за пет минути, след това броячът започва да отчитаПървите пет минути са безплатни. След това потребителите биват подканени да закупят време: £0.99 за еднократен начален пакет от 5 минути, £13 за 15 минути, £22 за 30 минути, с лимит до 35 закупени минути на човек.
Дребният шрифт тук е от по-голямо значение от обикновено, защото цялата услуга е с ограничен срок.
Всяка минута, безплатна или платена, изтича, когато Talking Tilly спре да функционира за постоянно на 27 септември, а неизползваните минути се губят.
Стенограмите се съхраняват до осем седмици и могат да бъдат преглеждани от екипа на Xicoia и техни партньори, докато геройът пази спомен за предишните ви разговори, за да персонализира бъдещите – информация, която може да бъде изтрита при поискване.
3>В съответствие с посоката, в която се движи Обединеното кралствоБиометричната проверка на възрастта чрез сканиране на лице за разговор с чатбот може да изглежда като новост, но е в съответствие с регулаторната посока на Обединеното кралство.
Сайтовете за възрастни, обслужващи посетители от Обединеното кралство, изискват качване на документ за самоличност или сканиране на лице за оценка на възрастта от юли 2025 г. съгласно Закона за онлайн безопасност (Online Safety Act), а забраната на правителството за ползване на социални мрежи от лица под 16 години ще направи подобни проверки реалност за всеки, който открива нов профил от пролетта на 2027 г.
В съобщението на британското правителство относно тази забрана специално бяха посочени AI чатботовете компаньони като подлежащи на изискване за 18+ (въпреки че документите за сигурност на услугата подчертават, че „Тили не е компаньон“), което вероятно обяснява защо вайръл AI герой въведе биометрична проверка на възрастта по средата на кампанията си.
Страничният ефект е, че решение за съответствие, породено от британското законодателство, сега подлага на биометрично сканиране на лицето потребители отвсякъде – от Манчестър до Охайо.
3>Случайност или маркетинг?Xicoia, основана от създателката на Тили – Елин ван дер Велден, описва героя като информационен проект, имащ за цел да покаже докъде е стигнало развитието на AI видео технологиите.
EXCLUSIVE: AI actress Tilly Norwood glitches and starts speaking CHINESE during her interview with Piers Morgan and real-life actor Tom Conti... Watch the full interview at 7pm (BST) https://t.co/1nTb79BH8D@piersmorgan | @TillyNorwoodX pic.twitter.com/DDkveWvVzz — Piers Morgan Uncensored (@PiersUncensored) September 18, 2026
По време на моето обаждане личното обяснение на Тили за момента в предаването на Пиърс Морган беше, че това „не беше точно одобрената версия на отговора“.
Talking Tilly спира работа за постоянно в 23:59 ч. тихоокеанско време на 27 септември, броени дни след участието при Пиърс Морган.
Дали снощната грешка е била наистина случайна, както Тили весело ми твърдеше днес, или е добре планиран трик от екипа на Misaligned, знае единствено Тили.