НЮ ЙОРК — JPMorgan Chase ускори внедряването на изкуствен интелект, като разви своята корпоративна AI платформа LLM Suite, за да поддържа 1000 бизнес приложения. За главния директор по информационни технологии (Global CIO) Лори Биър обаче сигурността винаги е на първо място.

„Трябва да сме сигурни, че сигурността и начинът, по който управляваме риска, са в центъра на всичко, което правим“, заяви Биър по време на изказването си на 22 октомври на симпозиума Evident AI Symposium.

Изявлението на Биър идва след като главният изпълнителен директор Джейми Даймън изрази загриженост относно компрометирани или неконтролирани автономни агенти (rogue agents), както и решението на банката да забрани работата на външни агенти в рамките на своята среда.

В целия сектор на финансовите услуги лидерите се сблъскват с предизвикателствата около сигурността на изкуствения интелект, особено с развитието на технологиите и разпространението на AI агенти. Съгласуването на агентите с корпоративните стандарти и политики остава критично предизвикателство за директорите по информационни технологии, посочи Марко Ардженти, главен директор по информационни технологии в Goldman Sachs.

„Трябва да приемете факта, че всеки агент може да прояви непредвидено поведение“, заяви той. „Те не са детерминистични машини, а стохастични машини.“

Технологичните лидери трябва да разберат рисковете от функционирането на агенти в рамките на бизнес средата, коментира Биър. Основните технологични контроли като управление на самоличността и достъпа (IAM), привилегирован достъп и разделение на средите трябва да бъдат „най-добрите в класа си“, подчерта тя. Лидерите в областта на технологиите също трябва да обмислят контролите за сигурност, „тъй като преминавате от детерминистичен софтуерен свят към недетерминистичен, което отваря нови пътища за рискове.“

„Ще започнем с една основна платформа за изграждане на агенти“, каза Биър, ограничавайки разработката, за да се управлява рискът и да се позволи автономно прилагане на контроли в голям мащаб. Тя посочи, че има сложност при динамичното прилагане на защитни рамки (guardrails) и оценки в реално време – нещо, върху което банката работи активно.

„Това е един от най-важните моменти да се уверите, че правилно балансирате компромиса между риска и иновациите“, каза тя. „Искаме да се движим бързо, но понякога се налага да забавим темпото, за да въведем необходимите мерки за контрол. Технологията изпреварва възможностите за нейното управление.“

Това не е първият случай, в който JPMorgan налага технологична пауза, за да въведе мерки за сигурност.

JPMorgan блокира ChatGPT при появата му през 2022 г., тъй като хората „не разбираха риска“ от потенциална загуба на данни, обясни Биър. Банковият гигант изгради своя собствена екосистема в рамките на частен облак върху Microsoft Azure, за да осигури достъп на своите анализатори на данни. Това доведе до създаването на платформата LLM Suite, която днес се използва активно от 200 000 служители, допълни Биър.

LLM Suite вече има възможност да изпълнява координирани, многозадачни стъпки във „високозащитена среда на JPMorgan, където сме уверени в сигурността на нашите данни и начина, по който те се използват“, заяви Биър.

Въпреки че сигурността е основен фокус, управлението на разходите за изкуствен интелект и постигането на реална бизнес стойност също са приоритет за Биър. Инструментите за подпомагане на програмирането генерират по-голямата част от разходите на банката за токени, посочи тя.

Биър поясни, че JPMorgan е преминала от просто броене на сценарии за употреба към фокусиране върху 50 стратегически инициативи, притежавани от бизнеса, като начин за измерване на конкретни резултати.

„Наша отговорност е инвестициите, които правим, в крайна сметка да се превърнат не просто в бизнес план на хартия, а в реален растеж и реални бизнес резултати, и това е пътят, по който вървим“, отбеляза тя.

Привличане на инженери за пряко внедряване на място

Докато автономните агенти се развиват бързо и водят до значителни трансформации в различни индустрии, Goldman Sachs обедини сили с доставчика на големи езикови модели Anthropic по-рано тази година, за да създаде компания за услуги в областта на изкуствения интелект, която внедрява инженери в средни по размер предприятия за интегриране и скалиране на Claude.

„Очевидно тези компании са пред вас“, посочи Ардженти по време на събитието. „За да учите и да съкратите времето за обучение, най-добрият начин е хора директно от лабораторията да работят съвместно с вашите специалисти.“

След като служителите усвоят опита от инженерите за внедряване (FDE), програмата продължава напред, уточни Ардженти.

„Това не е класическият консултант“, каза той. „Това е специфичен тип ангажимент, чиято цел е да стане излишен във възможно най-кратък срок и да премине към следващия труден проблем. Вие влизате, уверявате се, че екипът е изградил необходимите умения, и след това те могат да продължат сами.“

Anthropic и Goldman Sachs не са единствените компании, залагащи на програми с инженери за директно внедряване. Google, Microsoft и AWS инвестират милиарди в свои собствени програми за интегриране на специализирани инженери в корпоративни среди, за да помогнат на ИТ лидерите да скалират технологията и да преодолеят трудностите.

Ако технологичните лидери поддържат разбирането, че AI агентите могат да доведат до неочаквани резултати, фокусът трябва да бъде върху изолирането на рисковете и налагането на стриктни правила за агентите, както и създаването на защитни бариери върху потребителските инструменти, преди агентът да може да извърши трансакция, заключи Ардженти.