ИИ ни доведе до позната повратна точка в историята на поверителността, киберсигурността и онлайн безопасността. Имаме възможност да приложим десетилетия опит в киберсигурността, преди следващото поколение технологии да създаде последствия, които не можем лесно да обърнем.
Разбрах колко важна е тази отговорност чрез тригодишно дете, което ще нарека Адиа. Името ѝ е защитен псевдоним.
Адиа се появи в изображение със сексуална експлоатация на деца, качено в интернет. Разследващите трябваше да установят къде се намира тя, да идентифицират съответната юрисдикция и да предадат приложима оперативна информация на служителя на правоприлагащите органи, упълномощен да се намеси. Технологията, позволяваща експлоатацията, функционираше в глобален мащаб и почти мигновено, докато системите, отговорни за защитата на децата, оставаха ограничени от фрагментирана информация, правни граници и остарели процеси.
По онова време части от този процес можеха да отнемат около 30 дни. За тригодишно дете това беше неприемливо забавяне. Това бяха още 30 нощи преди спасяването.
Чрез „Intel Inside, Safer Children Outside“ помогнах за ръководенето на публично-частно сътрудничество, което обедини технологични компании, организации с нестопанска цел и правоприлагащите органи, за да ускори предоставянето на приложима оперативна информация. Нашата работа помогна за съкращаването на процес, отнемал приблизително 30 дни, до около 24 часа.
Този опит затвърди един от най-важните уроци в кариерата ми: когато дигиталните престъпления застрашават човешката безопасност, конкурентите могат да станат партньори.
Компании, които се конкурират агресивно на пазара, могат да споделят експертен опит, да съгласуват техническите си възможности и да работят съвместно с правителството, когато мисията е по-голяма от търговските интереси на която и да е отделна организация.
Не се нуждаехме от една компания, която да притежава решението. Нуждаехме се от правилните експерти, работещи заедно с обективна, подходяща правна власт и измерими резултати.
След близо 30 години в технологичния сектор, включително кариерата ми в Intel, вярвам, че безопасността на ИИ изисква същия подход.
Технологичната асиметрия се завръща
Системите с ИИ могат да генерират софтуер, да взаимодействат с корпоративни приложения, да получават достъп до чувствителна информация и да изпълняват сложни работни процеси с ограничена човешка намеса. Тези възможности създават значителни икономически и обществени възможности, но също така въвеждат нови повърхности за атака и оперативни рискове.
За професионалистите по киберсигурност много от основните опасения са познати. Управлението на самоличността и достъпа, принципът на минималните привилегии, защитата на данните, сигурността на веригата за доставки, управлението на уязвимости и реакцията при инциденти остават от съществено значение.
Все по-автономните системи обаче въвеждат допълнителна сложност. Организациите трябва да оценят дали предвидените възможности на дадена система с ИИ биха могли да доведат до неприемливи резултати.
Автономен агент с прекомерни разрешения може да извърши неоторизирани действия. Атаки с инжектиране на промптове (prompt-injection) могат да манипулират легитимни работни процеси. Компрометираните интеграции могат да разкрият чувствителна информация или да предизвикат каскадни сривове в свързаните системи.
Тези рискове стават особено съществени, когато ИИ се внедрява в здравеопазването, финансовите услуги, държавния сектор и критичната инфраструктура. Технологията се развива по-бързо, отколкото много организации могат да адаптират своите архитектури за сигурност, процеси на възлагане на обществени поръчки и структури на управление.
Виждали сме този модел и преди. Въпросът е дали ще приложим наученото.
Нека инженерните, правните и техническите експерти поемат водеща роля
Днес служа като комисар в Глобалния съвет за отговорен ИИ (GCRAI), ръководейки неговата Международна комисия за безопасност на ИИ и работата по Международните червени линии за безопасност на ИИ.
Нашата цел е да помогнем за установяването на граници за автономните системи с ИИ и да придвижим тези граници към практическо прилагане. Вярвам, че следващата фаза на безопасността на ИИ изисква промяна в лидерството и изпълнението.
Прекарахме години в обсъждане на принципите за отговорен ИИ, етичните съображения и потенциалните бъдещи рискове. Тези разговори бяха ценни, но само принципи не могат да защитят инфраструктурата, да наложат контрол на достъпа или да установят правна отчетност.
Време е да поставим хората, които разбират как се изграждат, защитават, регулират и експлоатират сложни системи, в центъра на работата. Нека инженерите да се занимават с инженерство. Нека експертите по киберсигурност тестват системите. Нека правните експерти установят приложима отчетност. Нека операторите на инфраструктурата определят какво е оперативно осъществимо.
Изследователите на ИИ трябва да помогнат за дефинирането и оценката на опасните възможности. Архитектите на данни трябва да се справят с целостта на информацията, достъпа и произхода. Специалистите по сигурност трябва да идентифицират уязвимости и да разработват ефективни мерки за контрол. Правните и регулаторните експерти трябва да оценят юрисдикцията, отговорността и приложимостта.
Създателите на политики, гражданското общество и засегнатите общности също имат съществена роля в определянето на приемливия риск и защитата на обществените интереси. Техническото ръководство трябва да бъде информирано от хората, които ще усетят последствията от тези системи.
Това не е предизвикателство, което една-единствена дисциплина, институция или компания може да реши самостоятелно.
Същият принцип, който ни помогна да се противопоставим на дигиталните престъпления, се прилага и тук: конкурентите могат да си сътрудничат по отношение на безопасността, без да се отказват от способността си да се конкурират по отношение на иновациите.
От принципи за отговорен ИИ до приложими Червени линии
Инициативата за Международни червени линии за безопасност на ИИ е фокусирана върху един фундаментален въпрос: какви възможности и поведения никога не бива да се позволява да проявяват все по-автономните системи с ИИ?
Принципите за отговорен ИИ установяват важни очаквания, свързани с прозрачност, справедливост, отчетност, поверителност и човешки надзор. Червените линии са предназначени да определят граници, при които рискът става неприемлив.
Например организациите трябва да определят как да предотвратят автономните системи да превишават оторизираните разрешения, да заобикалят човешкия надзор, да улесняват сериозни кибератаки или да компрометират критична инфраструктура.
Тези граници в крайна сметка трябва да се превърнат в технически изисквания, които могат да бъдат внедрени, тествани и независимо оценявани.
Ангажиментът за човешки надзор не е еквивалентен на демонстриране, че една автономна система може да бъде прекъсната или изолирана. Декларацията за защита на чувствителни данни не е еквивалентна на доказване, че даден агент с ИИ не може да получи достъп до информация извън неговия оторизиран обхват.
Киберсигурността ни научи колко важно е това разграничение.
Отговорният ИИ е ангажимент. Доказуемата безопасност на ИИ е дисциплина на инженерството и управлението.
По време на седмицата на Общото събрание на Организацията на обединените нации в Ню Йорк през 2026 г. представихме нашите констатации относно Международните червени линии за безопасност на ИИ (International AI Safety Red Lines) в дискусии с лидери в сферата на технологиите, управлението, здравеопазването, финансовите услуги и международното управление.
Международното измерение има значение, тъй като системите с ИИ функционират отвъд корпоративните и националните граници. Моделите могат да бъдат разработени в една държава, хоствани в друга и интегрирани в критични услуги по целия свят.
Ефективните мерки за безопасност ще изискват техническа оперативна съвместимост, отчетност и сътрудничество между различните юрисдикции.
Следващият ни приоритет е да придвижим Червените линии напред чрез открит технически контрол. Специалистите по киберсигурност, изследователите на ИИ, операторите на инфраструктура, правните експерти и други заинтересовани страни трябва да имат възможност да оспорват допусканията, да идентифицират слабостите и да подобряват разработката. Доверието се печели чрез доказване, че рамката може да устои на обстоен анализ и да доведе до значими резултати.
Киберсигурността вече създаде пътната карта
Когато започнах кариерата си в технологичния сектор, киберсигурността често се разглеждаше като чисто ИТ функция, а не като бизнес отговорност за цялото предприятие.
С течение на времето мащабът и последствията от киберинцидентите промениха тази гледна точка. Сигурността се превърна във въпрос от компетенцията на управителните съвети, подкрепен от технически стандарти, рамки за управление, регулаторни изисквания, независими оценки и очаквания при възлагането на обществени поръчки и доставки.
Поверителността на данните последва подобна траектория, след като организациите се изправиха пред по-категорични задължения за защита на личната информация.
Критичният преход беше от доброволни ангажименти към доказуема отчетност.
Организациите вече не можеха да разчитат единствено на уверения, че ценят сигурността. Клиентите, регулаторите и бизнес партньорите все по-често очакваха доказателства за ефективни контроли.
Безопасността на ИИ се приближава към същия преход.
Вече разполагаме с ценни основи, включително Рамката за управление на риска от ИИ на NIST (NIST AI Risk Management Framework), ISO/IEC 42001, ISO/IEC 27001 и установените практики за гарантиране на киберсигурността.
Тези рамки обхващат различни измерения на риска и нито една от тях сама по себе си не гарантира, че дадена автономна система с ИИ е безопасна. Те обаче предоставят важна основа за разработване на последователни очаквания и измерими защитни механизми.
Следващият етап трябва да следва разпознаваема градация: установяване на принципи, определяне на неприемливи граници, преобразуване на тези граници в измерими контроли, съгласуване със съответните стандарти, независима оценка на ефективността и непрекъснато наблюдение на съответствието.
С течение на времето достатъчно строгите и подлежащи на тестване изисквания биха могли да подкрепят надеждно сертифициране или други независими механизми за гарантиране на качеството. Целта трябва да бъде неопровержимо доказателство, че системите с ИИ функционират в рамките на установените граници на безопасност.
Не ми казвайте, че вашият ИИ е отговорен. Докажете го.
Представете си главен директор по информационна сигурност (CISO), който оценява автономен агент с ИИ за внедряване в болница, финансова институция или енергийна компания.
Традиционните оценки на риска от доставчици вече обхващат сигурността на инфраструктурата, криптирането, управлението на самоличността, уязвимостите, реакцията при инциденти и спазването на регулаторните изисквания.
ИИ въвежда допълнителни въпроси.
Може ли системата да надвиши разрешените си привилегии? Могат ли злонамерени инструкции да манипулират поведението ѝ? Как са защитени свързаните инструменти и чувствителните данни? Могат ли опасните действия да бъдат засечени и прекъснати? Какво се случва, когато базов модел се промени? Какви независими доказателства демонстрират, че защитните механизми остават ефективни?
Тези въпроси изискват технически отговори.
Организациите се нуждаят от контролни цели, повторяеми методики за тестване, регистриране на събития (logging), мониторинг, документирани процедури за реагиране и механизми за преоценка при съществена промяна на системите.
Процесите по възлагане на поръчки и доставки могат да ускорят този преход. Правителствата и предприятията могат да установят базирани на риска изисквания за доставчици, които внедряват ИИ в чувствителни или с високо въздействие среди.
Болниците могат да изискват доказателства, че клиничните системи с ИИ функционират в одобрените граници за вземане на решения. Финансовите институции могат да изискват защитни механизми срещу неоторизирани трансакции. Операторите на критична инфраструктура могат да установят изисквания за локализиране на проблеми, човешка намеса и оперативно възстановяване.
Именно така киберсигурността се разви от нещо „желателно“ до нещо „задължително“. Безопасността на ИИ може да следва същия път.
Изграждане на човешката инфраструктура за безопасност на ИИ
В този преход съществува още една важна възможност.
Голяма част от обществената дискусия относно ИИ и заетостта се фокусира върху изместването на работни места. Тези опасения заслужават сериозно внимание, но разрастването на ИИ създава и търсене на специализирана човешка експертиза.
Киберсигурността предлага полезно историческо сравнение. С разрастването на цифровата инфраструктура организациите развиха нови професии в областта на архитектурата на сигурността, тестовете за проникване (penetration testing), анализа на заплахи (threat intelligence), реагирането при инциденти, инженерството по поверителност на данните и управлението на риска.
Безопасността на ИИ ще изисква подобна специализация.
Ще се нуждаем от инженери по безопасност на ИИ, специалисти по симулация на атаки (red-team специалисти), оценители на риска при моделите, дизайнери на контроли, независими одитори, разследващи инциденти, експерти по инфраструктурна сигурност и професионалисти, които могат да преведат техническите рискове в бизнес и регулаторни изисквания.
Опитните инженери и технологични експерти вече притежават много от фундаменталните умения, необходими за тази дейност.
Вместо да се фокусираме единствено върху това кои работни места ИИ може да елиминира, трябва да помислим и кои нови отговорности и професии стават жизненоважни именно защото ИИ съществува.
Човешката експертиза не е просто временен защитен механизъм, докато технологията стане по-способна. Човешката преценка, правната отчетност, независимият надзор и техническата експертиза са основополагащи за надеждното технологично управление.
Инвестирането в тази работна сила е инвестиция в инфраструктурата, необходима за устойчива икономика, базирана на ИИ.
Време е да бъдем добри предци в ерата на ИИ
Често мисля за решенията, които вземаме днес, от гледна точка на поколенията, които ще наследят системите, които изграждаме в момента.
Ние изграждаме технологичната инфраструктура, която ще определи начина, по който бъдещите поколения учат, работят, получават здравеопазване, взаимодействат с правителството и участват в обществото.
Те ще наследят не само възможностите, които създаваме, но и рисковете, с които не успеем да се справим.
Да бъдеш добър предшественик в ерата на ИИ означава да поемеш отговорност за тези решения, преди последиците от тях да станат необратими.
Това означава да се устои на изкушението безопасността да се третира като конкурентен недостатък или като пречка пред иновациите. Това означава да се признае, че надеждните защитни механизми създават условията за устойчиво внедряване и обществено доверие.
Най-важното е, че това означава поставянето на подходящата експертиза начело на решаването на правилните проблеми.
Не ни е необходимо още едно десетилетие на конкуриращи се декларации относно значението на отговорния изкуствен интелект. Нуждаем се от инженери, разработващи защитни механизми, специалисти по киберсигурност, тестващи тяхната ефективност, правни експерти, установяващи отговорността, и организации, готови да демонстрират съответствие.
Инициативата International AI Safety Red Lines на Global Council for Responsible AI е един принос към това по-широко усилие. Нейният успех ще зависи от сътрудничеството, техническия анализ, практическото внедряване и непрекъснатото усъвършенстване.
След близо 30 години в технологичния сектор съм виждал какво става възможно, когато организациите си сътрудничат по предизвикателства, които надхвърлят техните индивидуални търговски интереси.
Дигиталните престъпления ни научиха, че конкурентите могат да станат партньори, когато човешката безопасност е заложена на карта. Безопасността на изкуствения интелект предоставя още една възможност да приложим този урок.
Разполагаме с установени рамки за киберсигурност, опитни технически специалисти, правна експертиза и десетилетия уроци за управление на технологичния риск. Трябва да надграждаме върху тази основа.
Отговорността сега е да превърнем нашите колективни знания в практически защитни механизми, на които бъдещите поколения могат да разчитат. Нека бъдем добри предшественици на изкуствения интелект. Нека позволим на експертите да ръководят, да им предоставим ресурсите за успех и да носим отговорност за системите, които оставяме след себе си.
