Наскоро се срещнах с няколко блестящи руски математици, които ми показаха начин моделите с изкуствен интелект да комуникират чрез нещо подобно на машинна телепатия.
Математиците работят за стартъпа Mostik — руската дума за „мостче“. Това е препратка към подхода на екипа, който позволява на различни модели да взаимодействат, използвайки математическите стойности в техните тегла — нещата, които определят как дадена подкана се превръща в изходен резултат. На практика това означава, че възможностите на по-голям модел могат да бъдат подадени на по-малък модел, за да се увеличи неговата интелигентност много по-ефективно.
Стартъпът използва този подход, за да изгради модел, който се изкачи до върха на ARC-AGI 3 — изключително трудно състезание за AI модели. (Те не ми разкриха повече подробности, защото искат да спечелят конкурса.) За да демонстрират идеята си обаче, те създадоха и мост между два китайски модела с отворени тегла: най-голямата версия на GLM-5.2, която има 753 милиарда параметъра, и версия на Qwen-3.5 с 4 милиарда параметъра, която може да работи на мобилно устройство. Получената хибридна система струва една двадесета от пълния модел GLM, а нейната производителност е точно по средата между двата.
„В машинното обучение е добре известно, че ансамблите от модели се справят по-добре от индивидуалните“, каза ми Саша Малишева, изпълнителен директор на Mostik, докато пиехме кафе.
Малишева, която е разработила подхода, сподели вътрешна шега в компанията: Бъдещето на изкуствения интелект е подобно на познаването на теглото на прасе. В математическите среди е добре известно, че шепа случайни хора могат по-точно да преценят теглото на прасе, отколкото експерт, когато техните предположения се комбинират и усреднят.
Точно както при колективната оценка на прасешко тегло, комбинирането на резултатите от няколко AI модела често дава по-добри резултати. Обикновено това включва подаване на резултата от един модел към друг, което отнема много време и пари. Екипът на Mostik обаче е открил начин AI моделите да разговарят помежду си, без да генерират текстов изход. Ако методът се наложи, той би могъл да увеличи стойността на моделите с отворени тегла, позволявайки им да се състезават по-успешно със затворените, патентовани модели, предлагани от водещи лаборатории като Anthropic и OpenAI.
Малишева казва, че комбинирането на много различни модели може да се окаже по-добър начин за напредък на изкуствения интелект. „Лично аз не мисля, че в бъдеще ще имаме монолитен модел или че възможностите на моделите ще идват от мащабирането“, каза ми тя, визирайки стратегията за увеличаване на размера на моделите и захранването им с повече данни.
„Ако Mostik даде възможност за сдвояване на водещи модели с модели за специфични области — като биология, физика и така нататък — ще бъдат обучени много повече специализирани модели“, казва Владимир Арустамян, технически лидер в компанията за AI софтуер Lovable, който познава екипа на Mostik. „Този екип работи от едва няколко месеца и вече има работещо решение, за което бих предположил, че са нужни години.“
Техниката на Mostik означава, че „можете да се доближите до качеството на голям модел, без той да обработва целия цикъл, давайки ви съществени подобрения само с по-малък модел, работещ наред с него“, казва Карл Тюйлс, бивш компютърен специалист в Google DeepMind, запознат с технологията на компанията. Методът е абсолютно логичен избор за всеки, чиято задача е да пуска модели възможно най-ефективно, допълва Тюйлс.
Станислав Смирнов, професор в Женевския университет и носител на Филдсов медал за 2010 г., е главен учен на Mostik. Той казва, че намирането на допирни точки между два AI модела е изненадващо трудно. „Изглежда все още няма подходящ математически език“, казва той. В междувремето подходът на Mostik е начин буквално да се хвърли мост над тази празнина.
Смирнов казва, че работата на Mostik може също да разкрие нови неща за това как всъщност функционират AI моделите и как това се съпоставя с работата на човешкия мозък. Смирнов допълва, че по-дълбок математически анализ може да разкрие общи черти в начина, по който AI моделите и хората разсъждават над трудни проблеми.
По време на срещата ни на кафе Малишева ми сподели, че е открила таланта си за математика едва след като по-големият ѝ брат ѝ казал, че няма да може да реши задачите от олимпиадата по математика, които той учил. Няколко години по-късно тя вече учила в едно от най-добрите училища в Санкт Петербург. Наскоро нейни колеги я предупредили, че подходът с моста ще бъде твърде труден за осъществяване.
„Казаха, че може да е твърде трудно за млада жена“, казва тя. „Реших, че трябва да им докажа, че грешат.“
Това е издание на бюлетина AI Lab на Уил Найт. Прочетете предишни издания тук.