За разлика от много други големи технологични платформи, LinkedIn реши, че няма да инвестира агресивно в разширяването на своите центрове за данни за изкуствен интелект през тази фискална година. Ръководители в професионалната социална мрежа споделят пред WIRED, че компанията планира да запази инвестициите си в графични процесори (GPU) стабилни, а нейният капацитет за изчисления и съхранение на данни също остава непроменен.

Изчисленията на разходите се отнасят за фискалната година на LinkedIn, която започна миналия месец и приключва следващия юни. Компанията твърди, че е успяла да избегне големите разходи за хардуер за изкуствен интелект, тъй като през последните шест месеца е намерила начини да използва съществуващите си графични процесори два пъти по-ефективно. Планът на LinkedIn все пак може да се промени, тъй като хардуерните изисквания на изкуствения интелект се променят бързо, но ръководителите казват, че компанията вече е взела предвид нарастващите цени на чиповете памет.

„Една от целите, които си поставихме, е основно да се опитаме да запазим нашия капацитет за изчисления непроменен или възможно най-близо до това ниво, докато пускаме в производство продукти, изискващи повече изчислителна мощ“, казва Еран Бергер, главен технологичен директор по инженерните въпроси на LinkedIn. „Това е доста смело изявление в днешния свят.“

Бергер и Рагу Хиремагалур, главен технологичен директор по инфраструктурата на LinkedIn, казват, че искат да бъдат благоразумни по отношение на разходите и че новите ограничения ще мотивират инженерните екипи да бъдат по-креативни при разработването на многото нови функции с генеративен изкуствен интелект, които LinkedIn планира да пусне. Бергер вярва, че подобренията в ефективността могат да се натрупват с времето, позволявайки на LinkedIn да извлече повече полза от разширяването на центровете за данни, когато в крайна сметка отново увеличи бюджетите си.

„Наистина искам дебело да подчертая, че за компания с нашия мащаб, да каже, че цяла година ще се справи без допълнително съхранение и изчислителна мощ, не е малко постижение, но беше нужна огромна работа, за да стигнем дотук“, казва Хиремагалур.

Компании като OpenAI, Meta и Google събират всички възможни средства и се обединяват в неочаквани партньорства, за да изграждат, оборудват и експлоатират масивни центрове за данни, пълни с най-новите компютърни чипове. Недостигът на работна ръка и части забави много проекти, а много фирми трябваше да ограничат използването на някои инструменти с изкуствен интелект от страна на клиентите. Но също така нарастват въпросите дали непрекъснатите инвестиции в изкуствен интелект са устойчиви. LinkedIn, с над 1,3 милиарда потребители, е може би най-големият бизнес досега, който публично адресира опасенията за разходите, противопоставяйки се на бума в строителството.

„Това е насърчително за индустрията“, казва Сонги Юн, управляващ партньор в Principal Venture Partners и член на борда на производителя на сървъри HP. „Това подсказва, че изкуственият интелект започва да се придвижва от експериментиране към производствена дисциплина. Компаниите, които печелят, няма да бъдат просто тези, които харчат най-много за инфраструктура.“

Няколко години след като Microsoft придоби LinkedIn през 2016 г., компанията се опита да премине към облачната услуга Azure на компанията майка, но не беше икономически изгодно да се притисне гигантската социална мрежа в центрове за данни с общо предназначение. „Microsoft Azure растеше безумно бързо, нивото на клиентско търсене беше изключително високо, а в същото време видяхме главоломен растеж и от страна на LinkedIn“, казва Хиремагалур.

През 2022 г. LinkedIn заложи изцяло на собствените си центрове за данни в Орегон, Тексас и Вирджиния. Собствеността даде на LinkedIn значителен контрол върху всеки детайл от нейните технологии, подготвяйки я добре за реалностите на една нова ера. По същото време LinkedIn започна да разработва базирани на изкуствен интелект асистенти, които да помагат на потребителите да пишат съобщения, да намират работа и да набират кандидати. Това начинание не беше евтино. „Всяко запитване към нашия сайт увеличаваше разходите си с течение на времето“, казва Хиремагалур, добавяйки, че количеството данни, съхранявани от LinkedIn, се е удвоявало ежегодно. „Това не е устойчива позиция.“

LinkedIn предприе действия за оптимизиране на използването на центровете си за данни на всеки етап от процеса за изкуствен интелект – от обучението на моделите до предоставянето им в отговор на потребителски заявки. Екипът на Хиремагалур разработи измервателни инструменти, за да разбере колко изчислителна мощ и съхранение използват отделните екипи. След това създаде система за по-ефективно разпределяне на проектите към компютрите в центровете за данни, така че те да стоят празни по-рядко. „Ефективността на нашето разпределение и използването на графични процесори при обучението е най-доброто, което съм виждал“, казва Хиремагалур, описвайки използване от над 95 процента.

LinkedIn също така използва техники като дестилация, за да обучава по-малки модели с изкуствен интелект от по-големи. За своите инструменти за препоръчване на работа, един модел се обучава от два по-големи модела, за да идентифицира подходящи свободни позиции и да прогнозира кои потребители е най-вероятно да кликнат върху тях. Докато по-малкият модел е по-евтин за експлоатация, Бергер казва, че той не прави компромис с качеството. „Хората откриват работни места, които преди не са успявали да намерят успешно, защото моделът върши наистина добра работа в разбирането на техните желания“, казва той.

Моделът, използван за избор на публикации, които да се показват на потребителите в техния поток с новини, също първоначално беше скъп за експлоатация, но LinkedIn намери начин да го накара да работи при разумни разходи...