Изкуственият интелект трансформира воденето на война и международните конфликти. Автономните оръжейни системи представляват реална заплаха за цивилните. Войната в Украйна се превърна в изпитателно поле за оръжия, които могат да навигират, да идентифицират цели, да противостоят на електронни противодействия и самостоятелно да преследват и атакуват цели без необходимост от човешки контрол.
Тази еволюция трябва да буди безпокойство сред технологичните специалисти, регулаторите, политиците и гражданите навсякъде по света.
Неотдавнашен репортаж на The New York Times документира особено тревожно развитие. През юли 2026 г. руски дрон нанесе удар по бензиностанция в Запорожие, убивайки трима украински цивилни, включително 19-годишен студент. Според украински следователи и експерти, изследвали останките, дронът е съдържал компютърен чип Nvidia Jetson Orin и се е управлявал от вградена система с изкуствен интелект. Човешки оператори са програмирали дрона да се придвижи към района, но според информациите изкуственият интелект самостоятелно е избрал конкретния обект за атака, без човек да взeме крайното решение за насочване.
Чипът на Nvidia не е проектиран специално като оръжие или за военна употреба, но той се отличава с отлични възможности в компютърното зрение, машинното обучение и изпълнението на задачи с изкуствен интелект в устройства с ниска консумация на енергия. Такива компоненти от веригата за доставки могат да бъдат пренасочени по начини, които производителите не са предвидили, превръщайки се в автономна оръжейна система.
Тези нововъзникващи автономни платформи са еволюция на по-ранните оръжия, подпомагани от изкуствен интелект. Системата е успяла да функционира без компоненти за дистанционно пилотиране и представлява изместване към оръжия, които атакуват самостоятелно. На софтуера се предоставя все по-голям контрол върху пълния цикъл на атаката (kill-chain), включително навигация, разпознаване на цели, проследяване и окончателно прихващане.
Автономни оръжейни системи, използвани както от Украйна, така и от Русия, се прилагат в момента. Военни организации по целия свят разработват, тестват и започват да внедряват подобни оръжия с подобрен изкуствен интелект.
Най-сериозната опасност от автономните оръжия се крие във възможността правителства съзнателно да ги използват срещу невоюващо цивилно население.
Инцидентът демонстрира потенциалните глобални рискове, произтичащи от автономните оръжия, и необходимостта от по-конкретни международни правила, регулиращи тяхната употреба.
Автономните оръжия не са задължително незаконна или неетична употреба на изкуствен интелект. Те почти сигурно ще бъдат част от бъдещето на воденето на война, тъй като отговорните правителства ще ги използват за намаляване на рисковете за военния персонал, за защита на въздушното пространство и критичните инфраструктури, за прихващане на заплахи и за атакуване с повишена точност на легитимни военни цели.
Това бъдеще не бива да бъде отхвърляно. Но подобно на конвенционалните оръжия, автономните системи трябва да бъдат насочвани единствено срещу бойци и военни поддържащи инфраструктури. Те трябва да бъдат ограничени до легитимни военни цели и никога не трябва умишлено да се използват за атакуване на цивилни или други лица, защитени от международното хуманитарно право.
Международната общност вече дебатира по тези въпроси. Организацията на обединените нации от години проучва леталните автономни оръжия, а представители на Международния комитет на Червения кръст призовават за по-строги правила. Международното хуманитарно право вече забранява умишленото атакуване на цивилни, но съществуващите правила не предоставят достатъчно специфични и споделени стандарти за оръжия, които самостоятелно избират и атакуват цели.
Липсват правила, регулиращи отговорността в сивите зони на автономността на интелигентните оръжия, както и неконтролираната ескалация на базовите технологии за изкуствен интелект, които биха могли съзнателно да бъдат използвани за пряко атакуване на цивилни.
Международните политици трябва да се възползват от възможността да установят приложими споразумения, които очертават приемливи стандарти, правомощия за разследване след инциденти и червена линия за приемлива употреба на автономни оръжия с изкуствен интелект, със забрана за атакуване на невоюващи лица, преди цивилните жертви да се превърнат в норма.
Една широко подкрепена и единна глобална политика сама по себе си няма да спре неетичните държави да използват оръжия с изкуствен интелект срещу цивилни, но ще създаде необходимата рамка за международната общност да държи отговорни тези държави и да предизвика мощен координиран отговор от международна коалиция.
Правилата биха могли да установят общи дефиниции, ясно дефинирани очаквания, процеси за докладване на инциденти, възможности за криминалистично разследване и механизми за определяне дали дадено автономно оръжие е било използвано умишлено или поради небрежност срещу цивилни. Такава рамка би дала на правителствата по-голяма увереност и бързина при реагиране с съвместни политически, дипломатически, икономически и военни действия, които водят до убедително възпиране или отстраняване на последиците чрез координирани санкции, експортни ограничения, прекратяване на вериги за доставка на критични технологии и съвместно разработване на военни countermeasures.
Изкуственият интелект ще трансформира воденето на война. Тази неизбежност вече е в ход. Не трябва да чакаме автономните оръжия да станат ежедневие при атаки срещу невоюващи лица, преди да установим граници за управление на риска.
Международните споразумения не са пречка пред технологичния прогрес. Те са съществен механизъм за правене на технологичния прогрес по-безопасен, преди той да излезе извън контрол с катастрофални последици.
Международният комитет по безопасност на изкуствения интелект (ICAS) към Глобалния съвет за отговорен изкуствен интелект (GCRAI) работи върху дефинирането на глобални граници за безопасност на изкуствения интелект. Тази група е определила рамкови червени линии, за които международната общност трябва да постигне споразумения за глобална безопасност на изкуствения интелект, включително екзистенциалния риск от автономни оръжия с изкуствен интелект, насочени срещу невоюващи лица.
Глобалната общност се нуждае от международни споразумения, които да дефинират приемливите и забранените случаи на употреба на автономен изкуствен интелект, за да се защитят невоюващите лица, да се установи реална отговорност, да се Drum-на разследването на инциденти и надзорът, който проправя пътя за международни реакции, когато тези граници бъдат съзнателно преминати.
Светът трябва умишлено да избере управлявана автономност пред неконтролираната ескалация. Международните политици трябва да действат сега.
- автоматизация
- киберсигурност
- кибервойна
- мнение