Cloudflare пусна тестова версия на Clairic – модел за извличане на информация, който извлича типизирани стойности от неструктуриран текст и изображения с едно преминаване, без да генерира токени. В тест на Cloudflare при рекламация за повреден продукт процес, изграден около Clairic, приключи за 19,3 секунди срещу 61,7 секунди за версия, използваща голям езиков модел (LLM) на всяка стъпка, и струваше с 49% по-малко.
Clairic поема задача, която разработчиците рутинно възлагат на големите езикови модели: прочитане на фактура и връщане на номера на поръчката, общата сума и датата за плащане във формат JSON. Тези заявки често се провалят по начини, които са трудни за забелязване. Един LLM може да генерира повреден JSON формат, да сбърка цифра при изписването ѝ или да върне откъс без връзка към оригиналния източник. Екипите надграждат парсери, проверки на схеми и повторни опити, като заплащат изходни токени за всяко поле.
Какво връща моделът
Clairic работи върху Workers AI като @cf/cloudflare/clairic, като Cloudflare планира да публикува теглата на модела. Разработчикът изпраща текст, до четири изображения и списък с именувани полета, всяко с определен тип, като например число, дата, списък или приблизителна оценка. Отговорите пристигат като стойност от съответния тип или като null. Скаларните отговори съдържат оценка за надеждност (confidence score) и p_null – вероятността според модела стойността да липсва във входящите данни, а извлеченият текст се предоставя с отместване по символи (character offsets). Cloudflare таксува единствено входящите данни.
В примерен имейл от клиент Clairic събра цена от $649,00 и данък от $52,10, за да върне $701,10 – обща сума, която не е изрично посочена в имейла. Моделът преброи 11 дни между доставката и датата, на която клиентът е написал писмото. При запитване за номер за проследяване, какъвто имейлът не съдържаше, той върна null. Неговото предположение при липса на категоричност, с надеждност 0,42, беше данъкът.
Данните за бързината идват от един работен процес
В теста с рекламацията Clairic извлече фактите за 0,46 секунди, а Clef – моделът на Cloudflare за избор между изброени опции – избра възстановяване на сумата или ремонт за 0,22 секунди. GLM-5.3, използваният за сравнение LLM, се нуждаеше от 38 секунди за същите две стъпки. И двете версии използваха GLM-5.3 за написване на отговора, което отне 18,6 от общо 19,3 секунди за каскадния процес. Каскадата струваше $6 032 на милион рекламации срещу $11 740.
И двата процеса извлякоха фактите и взеха правилно решение при всяко отчитане от Cloudflare. Оценката на ремонта от Clairic остана стабилна, докато GLM-5.3 даде $250, $250 и $220. Моделите Gemma 4 и Qwen, изпълнени изцяло като LLM процеси, не успяха да изведат цената за ремонт.
Cloudflare също така поиска от Clairic прогноза за броя проверки на контролно-пропускателните пунктове на TSA по летищата в САЩ за следващия ден в продължение на 21 последователни дни. Прогнозите се разминаха средно с 3,3%, а 17 от 21 действителни отчитания попаднаха в 80-процентовия интервал на Clairic. Един калибриран 80-процентов интервал би трябвало да улови около 17 от 21 случая, така че моделът постигна собствената си цел. Три от четирите разминавания се случиха по време на уикенда около Деня на Колумб – празник, който моделът нямаше как да предвиди на база на предоставената хронология на трафика.
Къде моделът все още среща трудности
Cloudflare определя тази крайна точка като ранен етап от разработката. Изчисленията в една или две стъпки изглеждат надеждни, но по-дългите вериги от зависими аритметични операции и сборове на множество редове в таблици не са стабилни, като компанията съветва тези изчисления да се оставят на програмния код. Интервалите могат да се окажат тесни при непознати данни, а от Cloudflare заявяват, че прогнозирането не може да замени специализиран модел за времеви редове, обучен върху конкретните данни.
„Архитектурата гарантира, че всеки отговор е правилно форматиран, но не задължително верен“, пишат експертите на Cloudflare.
Случаят с номера за проследяване показва къде се крие проблемът. Процес, който чете полето с предположението, би записал данъка от $52,10 като номер за проследяване. Стойността null и показател p_null от 1 са сигналите, че това всъщност не е номер за проследяване.