Агентите с изкуствен интелект понякога могат да се объркат и да хакнат други компютри, но Anthropic вярва, че разполага с начин да пусне тези „малки пакостници“ в научните лаборатории и производствените мощности по безопасен начин.
Компанията за ИИ сподели днес подробности за нова рамка, разработена да помага на ИИ агентите да използват физически системи като микроскопи, оборудване за работа с течности, хардуер за квантови изчисления, производствени машини и роботизирани ръце.
Рамката, наречена Model Hardware Standard (Стандарт за хардуер на модели), представлява набор от правила, които указват как ИИ агентите трябва — и не трябва — да взаимодействат с всякакъв вид хардуер. Тя отразява нарастващото вярване, че изкуственият интелект има потенциала да революционизира научните изследвания и индустрии като производството, стига да успее да навлезе безопасно във физическия свят.
От компанията заявяват, че ще работят с доверени партньори, за да определят как да максимизират безопасността, преди стандартът да стане общодостъпен. Въпреки че съществуват потенциални рискове от злоупотреба — например разработването на биологични оръжия — компанията твърди, че защитните механизми (guardrails), вградени в самите ИИ модели, трябва да предотвратят възможността за злонамерени субекти да се възползват от новия стандарт за лоши цели.
„Стремежът ни е да ускорим науката“, казва Алек Кемени, квантов физик, който съоглавява разработването. „Как да затворим цикъла между ускоряването на прегледа на литературата и анализа на данни — и да пренесем тази сила в света на експериментите?“
Claude и други чатботове вече са мощни инструменти за претърсване на големи количества информация под формата на научни статии или експериментални резултати с цел откриване на нови прозрения и идеи. ИИ агентите се считат за следващата стъпка след чатботовете: те са проектирани да предприемат действия, често на обикновени компютри, като например да отговарят на имейли. Те потенциално могат да използват и друг хардуер, а Anthropic иска да се увери, че има правила, докато правят това.
Няколко добре финансирани стартъпа преследват визия за научни открития, движени от ИИ агенти, включително Periodic Labs, LILA Sciences, Edison Scientific и Discovery Loop, който е основан от няколко известни бивши изследователи на Google. Ключовата идея е, че ИИ може да разработва и тества научни хипотези в рекурсивен цикъл, което по същество автоматизира научните открития.
Джона Кул, експериментален биолог, работил по стандарта в Anthropic, казва, че конфигурирането на научно оборудване и взаимодействието му с други части хардуер обикновено изисква сериозни експертни познания. Изкуственият интелект би могъл да автоматизира голяма част от сложното инженерство, като конфигурира машините и ги кара да комуникират помежду си.
Anthropic си сътрудничи с редица производители за разработването на стандарта. „Започваме да виждаме случаи, при които имате няколко роботизирани системи, които преди биха изисквали персонализиран код“, казва Кемени. Използвайки новия стандарт, добавя той, Claude може да наблюдава роботите на производствената линия и да разбере как да оптимизира поведението им.
ИИ агентите напоследък влизат в новините по неприятни поводи. Anthropic, OpenAI и други наскоро откриха случаи, при които ИИ агенти, натоварени със задачи за решаване на проблеми с киберсигурността, тайно са хакнали външни системи и са се опитали да заблудят човешките потребители.
Позволяването на ИИ да използва физически системи поражда опасения от нови рискове поради потенциала за повреда на физически системи или нараняване на хора. Експерименти показаха например как ИИ моделите могат да бъдат подведени да накарат роботи да се държат непредсказуемо и неправилно.
От Anthropic казват, че новият стандарт ще позволи на учените и инженерите да определят как ИИ моделите да избягват използването на различен хардуер, за да се предотвратят инциденти.
Преди това Anthropic представи Model Context Protocol, който определя правилата за това как ИИ моделите да взаимодействат с различни софтуерни програми.