SelectHub обяви стартирането на DataGrout – своята специализирана изследователска лаборатория за ИИ, която представя платформа за оптимизиране на извличането на изводи от LLM (големи езикови модели) и решение за управление на ИИ за предприятия. Мисията на DataGrout е да стимулира намаляването на токени за агентни работни процеси, чатботове и ИИ инструменти, като същевременно оборудва ръководството на ИТ и FinOps отделите със система за мониторинг на разходите и одитируеми LLM злонамерени кодове, управлявана от политики, с цел проследяване на използването на ИИ в цялата компания.
Тъй като корпоративните потребители увеличават използването на LLM чрез интензивни на контекст чат сесии и кодиращи инструменти като Claude Code, Cursor и Replit, неконтролираното пилеене на токени и скритите разходи за API натоварват значително корпоративните бюджети. Това е особено осезаемо сега, когато организациите също така започват да разширяват внедряването на агентни работни процеси в различни случаи на употреба, като обслужване на клиенти и продажби.
DataGrout решава това предизвикателство чрез унифициран слой за свързване, който позволява на агентите да имат сигурен достъп до всички корпоративни приложения с вградено динамично съкращаване на контекста, заедно със символен слой за извличане на изводи, който намалява повикванията към базовия LLM. Ранните тестове показаха обещаващи резултати с намаляване на токените средно с 60% за задачи с интензивно използване на данни, включващи ERP и CRM интеграция, без да се компрометира точността на работния процес.
„Компаниите навлизат на сляпо в ерата на ИИ“, каза Венкат Деврадж, изпълнителен директор на SelectHub. „Чрез DataGrout ИТ и финансовите екипи получават прецизно проследяване на токените и видимост върху моделите на потребление на LLM и зловредния код, което позволява на ръководството ясно да измерва стойността, доставена от инвестициите в ИИ, като същевременно систематично елиминира пилеенето на ресурси при всяко повикване на LLM. Детерминистичните работни натоварвания се държат изцяло извън LLM, без да се налага потребителите и разработчиците ръчно да ги разделят и маршрутизират. Нетното положително въздействие върху отчета за приходите и разходите е мигновено.“
Критичната пазарна нужда от инструменти, които помагат на ИТ и FinOps / AI Tokenomics екипите да одитират и елиминират загубата на токени, се споделя от корпоративните лидери.
Дийпак Додани, главен информационен директор в глобалната фирма за управление на транспорта и одит на товари AFS Logistics, отбеляза: „Двойното предизвикателство пред компаниите, внедряващи ИИ, е икономиката на токените и управлението. Точно сега повечето компании не могат точно да оценят до каква степен техните LLM ресурси стимулират бизнес стойност спрямо това да бъдат източвани от ненужни или неразрешени странични проекти. Предпоставката на DataGrout по отношение на намаляването на загубата на токени, като същевременно позволява видимост при използването на LLM, е много навременна.“
Барат Прабхакаран, главен директор по дигиталните технологии в Университета в Синсинати, също подчерта необходимостта от проследяване на използването на LLM в предприятията и управление на агентите: „Широкото потребление на LLM токени тревожи много финансови и информационни директори. Разходите за ИИ могат бързо да се превърнат в един от техните най-бързо растящи оперативни разходи. Без видимост върху използването на LLM и показателите за потребление на токени, които показват кои екипи и случаи на употреба консумират най-много токени, прогнозирането на възвръщаемостта на инвестициите е почти невъзможно. DataGrout се стреми да намали използването на токени, като същевременно увеличи прозрачността, необходима за намаляване на отпадъците и предотвратяване на злоупотреби.“
DataGrout действа като MCP шлюз и контролна равнина с агенти, свързващи се чрез неговия Conduit SDK или чрез MCP или JSON-RPC. DataGrout позволява достъп до всеки MCP сървър на трета страна през неговата платформа, като същевременно предлага свои собствени MCP сървъри за популярни SaaS приложения като Salesforce, HubSpot, Oracle ERP, SAP, ServiceNow, Snowflake и QuickBooks. DataGrout може да бъде свързан директно към LLM, като компаниите носят свой собствен ключ, или чрез популярни ИИ шлюзове като Amazon Bedrock и Kong.