Много изследователи в областта на изкуствения интелект изглежда твърдо вярват, че технологията, която разработват, някой ден би могла да се окаже много опасна. Това, което е по-малко ясно — дори сред техническия елит в сферата на ИИ — е как точно да бъдат държани под контрол тези непостоянни алгоритми.

През последните години изследователите предлагат всякакви идеи за предотвратяване на това ИИ да стане опасен. Те включват както по-малко спорни планове като по-строги правителствени регулации, нови начини за измерване на прогреса и изследване на вътрешната работа на моделите, така и по-екстравагантни предложения като поставяне на проследяващи устройства в графичните процесори (GPU) и дори тържествено унищожаване на големи количества ИИ чипове.

Тъй като политическият и общественият натиск за по-умерен подход към изграждането на ИИ вече нараства, отговорът за това как ИИ да бъде запазен безопасен все още остава unclear.

„Трябва да започнем да третираме това като изследователски проблем“, казва Реймънд Дъглас, изследовател на ИИ в Университета в Торонто и съавтор на нов доклад, озаглавен Pacing the Frontier, A Research Agenda, който предупреждава, че забавянето на развитието на ИИ остава нерешен пъзел. „Ние наистина не разбираме какви изобщо са нашите опции или какво биха направили те.“

Разговорите за апокалипсис, причинен от ИИ, достигнаха връхната си точка през последните седмици, след като изследовател от Anthropic напусна компанията и предупреди, че в рамките на няколко години ИИ може да се окаже на път да заличи човечеството. Ръководителят на лабораторията за безопасност на ИИ в Anthropic бързо повтори неговите притеснения.

Лидерите на големите компании за ИИ в Америка — Дарио Амодеи от Anthropic, Сам Олтман от OpenAI, Илон Мъск от SpaceXAI и Демис Хасабис от Google DeepMind — вече се включиха с подкрепа за някакъв вид забавяне или пауза в развитието на ИИ.

Въпросът изглежда особено спешен, тъй като компаниите за ИИ в момента използват самия ИИ, за да изграждат все по-мощни модели. Това породи опасения от ускоряващ се цикъл на рекурсивно самоусъвършенстване (RSI), който би довел до това ИИ да надмине способността на хората да разбират какво прави той в рамките на няколко години.

Лабораториите за ИИ вече рекламират нови собствени подходи. Тази седмица Anthropic обяви няколко нови начина за проследяване на това колко бързо — и може би опасно — се развива изкуственият интелект. Техниките показват например, че Claude вече извършва 26 процента от изследванията на Anthropic в областта на ИИ, в сравнение с нула в началото на 2026 г. Те също така разкриват, че Anthropic е изразходвала 6 процента от бюджета си за изчислителни ресурси за това да разбере как да направи своя ИИ по-безопасен.

Но Дъглас и други експерти казват, че ефективното и надеждно контролиране на развитието на ИИ ще изисква финансиране и експертиза извън самите лаборатории за ИИ. Някои от предложените решения — както от този последен доклад, така и извън него — изглеждат по-достижими от други.

„Независими“ оценители

Една идея, често лансирана от компаниите за ИИ, е предоставянето на външни оценители на по-голям достъп до техните модели. Тези оценители тестват моделите, за да оценят техните възможности, и извършват симулации на атаки („red team“), като се опитват да предизвикат зловредно поведение в изолирани среди.

Джефри Ървинг, бивш главен учен в Британския институт за сигурност на ИИ (UK AI Security Institute) и преди това изследовател в Google DeepMind, вярва, че строгите проверки биха могли ефективно да спрат развитието на най-напредналите ИИ модели за момента. „В краткосрочен план проверките и одитите работят, или дори просто взаимните споразумения“, казва Ървинг. „Смятам, че компаниитеНаистина се страхуват от RSI и несъответстващо на човешките ценности развитие.“

Някои скептици твърдят, че подобни проверки трябва да бъдат по-независими и научно издържани, отколкото са в момента. Фактът, че някои ИИ агенти наскоро избягаха от съдържащата ги среда по време на тестване, със сигурност подсказва, че може да се изисква по-голяма строгост.

Конър Лиъхи, ръководител на Control AI, сдружение с нестопанска цел, което се застъпва за контрол върху ИИ, казва, че проверките трябва да включват ФБР или НСБ (NSA). „Когато [големите компании за ИИ] казват „независими оценители“, те имат предвид „искам да платя на приятелите си, които живеят в моята съквартирантска къща, да разгледат подканите ми“.“

Дъглас казва, че новите изследвания биха могли също така да подобрят оценките на моделите. Той посочва скорошни проучвания, показващи как външни лица могат да изследват използването на модели, без да разкриват конфиденциална информация. Други техники, които могат да се окажат полезни, включват нови начини за вникване във вътрешността на ИИ моделите, за да се добие по-добра представа какво правят те.

Лиъхи се съгласява, че има нужда от повече изследвания относно оценката на моделите, както и какво всъщност означава да се „подравни“ един модел, или да се направи така, че той на първо място да отразява човешките ценности. „Имаше много съзнателна маркетингова кампания от тези компании да се опитат да представят оценките като научни“, казва той. „Но ние всъщност не разбираме как работи ИИ.“

Доколко правителството на САЩ има желание да се намеси, за да ограничи развитието на ИИ, не е сигурно. Президентът Тръмп до голяма степен отхвърли необходимостта от регулиране на индустрията, но има знаци, че двупартийната подкрепа за ограничаване на големия ИИ нараства.

Доверени изчислителни ресурси

Някои експерти вярват, че налагането на ограничения върху развитието на ИИ в крайна сметка трябва да включва проверки на необходимия суров изчислителен ресурс. Най-мощните модели се обучават с помощта на хиляди авангардни графични процесори на Nvidia в огромни центрове за данни.

Правителството вече прави опити да проследява това чрез изпълнителна заповед за ИИ от ерата на Байдън от 2023 г., която изискваше от компаниите да докладват за сесии на обучение над определен праг на изчислителни ресурси.

Аналитичен доклад (white paper) от март 2024 г. твърди, че доставчиците на облачни услуги биха могли да бъдат от решаващо значение за бъдещите усилия поради тяхната видимост върху основните сесии за обучение на ИИ. Докладът предлага проследяването на фактурите, използването на GPU, мрежовия трафик и консумацията на енергия да служи като индикатор за възможностите на ИИ.

Експертите също така са предложили начини за проследяване и контролиране на усилията за изграждане на напреднал ИИ чрез модифициране на самите чипове.

Една идея, предложена от изследователи от RAND през 2024 г., включва модифициране на съществуващ компонент в графичните процесори, използван за измерване на производителността, така че той да извършва криптографски защитен запис на изчислителните сесии, който да може да бъде проверяван периодично. Това би могло да разкрие например, че дадена компания е обучавала ИИ над определен праг.

Други предлагат вграждане на нови видове защитени от неоторизирана намеса компоненти в чиповете, така че те да събират подробна информация за употребата. От тези компоненти ще се изисква да стартират теглата на определени модели чрез използване на криптография.

Някои дори са предложили изграждането на „вградени прекъсвачи“ в чиповете, така че те да изискват дистанционна криптографска авторизация за стартиране на определени модели. Те казват, че това би могло да предотврати обучението на ИИ модели от неоторизирани страни или да деактивира чиповете, ако паднат в грешни ръце.

Обвързващи договорености

Повечето експерти се съгласяват, че намирането на нови начини за международно сътрудничество ще бъде от решаващо значение за контролирането на развитието на ИИ, тъй като други нации — особено Китай — също имат капацитета да изграждат най-напредналите ИИ модели. „В средносрочен план най-простият начин е съвместното ограничаване на нарастването на хардуера с Китай чрез договор“, предлага Ървинг.

САЩ също така се опитаха да ограничат развитието на китайския изкуствен интелект чрез забрана за износ на най-мощните чипове на Nvidia. Това имаше ограничен успех, тъй като компаниите все още могат да обучават модели, използвайки облачни изчислителни ресурси от чужбина.

Вероятно САЩ и Китай ще обсъдят рисковете от изкуствения интелект, когато президентът Си посети САЩ по-късно този месец. Въпреки че китайските експерти също се притесняват от рисковете, свързани с бързо развиващия се изкуствен интелект, те са скептични към забавяне, което би оставило китайските компании зад техните американски конкуренти.

Някои идеи за сътрудничество изглеждат сякаш са извадени от страниците на научната фантастика, а не от предложения за политики.

Тоби Орд, философ от Оксфордския университет, специализиран в екзистенциалния риск, по-рано разсъждаваше, че ако нациите могат да се договорят да ограничат развитието на изкуствения интелект — и ако рискът изглежда достатъчно сериозен — тогава големите нации биха могли да занесат графичните процесори на неутрална територия и да ги унищожат. Такъв драматичен ход би включвал съгласието и на двете страни да спрат напълно развитието на изкуствения интелект.

Цялата гатанка вероятно ще се композира допълнително от последния технически прогрес, а несигурността около рекурсивното самоусъвършенстване означава, че ще бъде особено важно да се проследява напредъкът в тази област.

Нов бенчмарк, наречен RSI Index, е едно от няколкото нови усилия за постигане на това. Разработен от стартъпа Vals AI, бенчмаркът се опитва да проследи напредъка на разработката на изкуствен интелект, задвижвана от самия изкуствен интелект, като измерва производителността на публичните модели на изкуствен интелект спрямо изследвания, публикувани от хора — учени в областта на изкуствения интелект. Раян Кришнан, съосновател и главен изпълнителен директор на Vals AI, казва, че бенчмаркът подсказва, че през следващата година изкуственият интелект би могъл да извършва работа, която изследователите на изкуствен интелект не могат да проследят.

Как най-добре да се следи изкуственият интелект обаче не е само техническо предизвикателство. Докладът на Дъглас и останалите предупреждава, че бързането за въвеждане на неподходящи контроли може да доведе до затъване на усилията в политиката или до лобиране в полза на регулаторни интереси („regulatory capture“).

„Не съм сигурен дали простото казване на правителството на САЩ да спре всичко ще завърши добре“, казва Дъглас. „Прибързаното действие с лош план може да се окаже по-лошо от нищо.“