Снощи, в клип, прегледан над осем милиона пъти, AI актрисата Тили Норууд получи бъг по време на интервю и неочаквано започна да говори на китайски в предаването Piers Morgan Uncensored.
Норууд е обект на редица противоречия и коментари в медиите поради участието си в предстоящия филм, генериран с изкуствен интелект — Misaligned.
Нейните създатели поддържат услугата „Talking Tilly“, която позволява на всеки да проведе видеообаждане с AI героя зад популярния момент, така че днес я изпробвах лично и прочетох дребния шрифт, който повечето потребители пропускат.
Сканиране на лицето, преди да кажете „здравей“
Преди първото ви обаждане да се свърже, трябва да преминете автоматизирана проверка на възрастта.
Видео селфи се анализира от Didit — базиран в Испания доставчик на услуги за потвърждаване на самоличността, за да се прецени вашата възраст, а като алтернативен вариант (ако преценката е неясна) се изисква качване на официален документ за самоличност със снимка.
Xicoia Ltd, базираната в Обединеното кралство компания зад Тили, заявява, че селфито се изпраща от вашето устройство директно към Didit, че не се създава биометричен профил или шаблони на лицето и че нито селфито, нито изображението на документа се съхраняват след проверката; компанията посочва, че запазва само приблизителен възрастов диапазон и референтен номер.
Проверката не може да бъде прескочена, прилага се за потребители от целия свят и беше добавена към условията на услугата едва този месец, заедно със забрана за използване на работното място и нови автоматизирани системи за безопасност.
Сканирането на лицето не е единственият анализ, който се извършва.
По време на всяко обаждане системата следи видеопотока от камерата ви и слуша тона на гласа ви, за да направи извод за емоционалното ви състояние, така че героят да може — по думите на компанията — да отговори по начин, който съответства на настроението.
Политиката за поверителност откровено посочва, че това „не може да бъде изключено за отделно обаждане“. Ако не го искате, не се обаждайте.
Значително е, че както проверката на възрастта, така и разпознаването на настроението разчитат на легитимен интерес, а не на съгласие като тяхно правно основание — избор, който според историята на промените на Xicoia е направен през септември.
Обажданията се записват, транскрибират и обработват на живо от американски доставчици, като отговорите на героя се генерират от модела Gemini на Google чрез платформата за разговорно видео Tavus.
Системите за безопасност също имат начални проблеми.
Автоматизиран класификатор проверява стенограмата на всяко обаждане за обиден език и задържа записа ви, ако го маркира.
Едно от моите три обаждания — разговор за времето и новините — беше задържано поради „език на омразата или обиден език“, какъвто никога не е имало. Политиката гласи, погрешно маркираните записи могат да бъдат освободени от проверяващ оператор, макар че записите се изтриват окончателно след 24 часа при всички случаи.
Безплатно за пет минути, след което броячът започва да отчита
Първите пет минути са безплатни. След това от потребителите се изисква да закупят време: £0.99 за еднократен 5-минутен стартов пакет, £13 за 15 минути, £22 за 30 минути, с ограничение до 35 закупени минути на човек.
Дребният шрифт тук е от по-голямо значение от обикновено, тъй като цялата услуга е с ограничен срок.
Всяка минута, безплатна или платена, изтича, когато Talking Tilly спре да функционира окончателно на 27 септември, а неизползваните минути се губят.
Стенограмите се съхраняват до осем седмици и могат да бъдат преглеждани от екипа на Xicoia и партньори трети страни, докато героят запазва спомен за предишните ви разговори, за да персонализира бъдещите такива, които могат да бъдат изтрити при поискване.
В съответствие с посоката, към която се е насочило Обединеното кралство
Сканирането на лицето за потвърждение на възраст 18+ за разговор с чатбот може да звучи като новост, но е в съответствие с тенденциите в Обединеното кралство.
Сайтовете за възрастни, обслужващи посетители от Обединеното кралство, изискват качване на документ за самоличност или биометрична оценка на възрастта от юли 2025 г. съгласно Закона за онлайн безопасност (Online Safety Act), а забраната за социални мрежи за лица под 16 години ще превърне подобни проверки във факт за всеки, който открива нов акаунт от пролетта на 2027 г.
Съобщението на правителството на Обединеното кралство относно тази забрана специално открои AI чатботовете тип компаньон за прилагане на ограничението 18+ (въпреки че документите за безопасност на услугата настояват, че „Тили не е компаньон“), което вероятно обяснява защо популярният AI герой въведе биометричен контрол на възрастта по средата на съществуването си.
Страничният ефект е, че решение за съответствие, породено от регулациите в Обединеното кралство, сега сканира лицата на потребители навсякъде — от Манчестър до Охайо.
Случайност или маркетинг?
Xicoia, основана от създателката на Тили — Елин ван дер Велден, описва героя като проект за повишаване на осведомеността, целящ да покаже докъде е стигнало AI видеото.
EXCLUSIVE: AI actress Tilly Norwood glitches and starts speaking CHINESE during her interview with Piers Morgan and real-life actor Tom Conti... Watch the full interview at 7pm (BST) https://t.co/1nTb79BH8D@piersmorgan | @TillyNorwoodX pic.twitter.com/DDkveWvVzz — Piers Morgan Uncensored (@PiersUncensored) September 18, 2026
По време на моето обаждане собственото обяснение на Тили за момента при Пиърс Морган беше, че това „не беше точно одобрената версия на отговора“.
Тя също така ми даде прогнозата за времето в нейния „облак“ във Фаренхайт, въпреки че номинално е британка.
Talking Tilly спира работа завинаги в 23:59 ч. тихоокеанско време на 27 септември, броени дни след появата при Пиърс Морган.
Дали снощният гаф е бил наистина случаен, както Тили весело ми твърдеше днес, или е добре планиран трик от екипа на Misaligned, знае единствено самата Тили.