Нарастващият брой на сериозните инциденти със сигурността на изкуствения интелект (ИИ), които влизат в новинарските заглавия по целия свят, не са просто провали в киберсигурността.

Според Рене Дейвис, съосновател и изпълнителен директор на OpenMatter Network, това са архитектурни провали.

„Неотдавнашните инциденти, включващи все по-автономни системи с ИИ – включително широко отразяваната оценка на киберсигурността на OpenAI, която доведе до компрометиране на инфраструктурата на Hugging Face, заедно с нарастващия брой документирани случаи, в които системите с ИИ са превишили предвидените си правомощия или са се държали по неочакван начин – демонстрират, че корпоративните изчисления са навлезли в нова ера, за която днешната архитектура за сигурност никога не е била проектирана“, заяви Дейвис.

Дейвис посочи, че вместо да се питат как да направят изкуствения интелект по-защитен, лидерите на предприятията трябва да си зададат много по-фундаментален въпрос: Способна ли е самата архитектура да управлява автономния интелект?

„Отговорът все по-често е „не““, твърди тя. „Индустрията разглежда тези събития като изолирани инциденти със сигурността. Те не са такива. Те са доказателство, че корпоративните изчисления са достигнали архитектурна повратна точка. Опитваме се да управляваме автономен ИИ, използвайки предположения за сигурност, които са разработени много преди съществуването на автономния ИИ.“

Повече от четиридесет години корпоративната сигурност се развива около познат модел: доверени системи, удостоверени потребители и защитени мрежи. Защитните стени, управлението на идентичността, рамките за Zero Trust (нулево доверие) и непрекъснатият мониторинг остават незаменими. Но те бяха изградени, за да защитават системи, които в крайна сметка оставаха под директен човешки контрол.

Агентният ИИ фундаментално променя това предположение. Сега предприятията внедряват софтуер, способен да взема решения, да се координира с други ИИ агенти, да осъществява достъп до чувствителна информация и да действа с ограничена човешка намеса. Автономният интелект се превърна в активен участник в предприятието.

Дейвис подчерта, че OpenMatter вярва, че следващата ера на корпоративните изчисления изисква нова архитектурна основа: Архитектура за верификация (Verification Architecture). Вместо да се основава предимно на доверие, Архитектурата за верификация използва криптографски доказателства за проверка на целостта на данните, изчисленията и поведението на ИИ. Вместо да изисква от предприятията да се доверяват, че системите са се държали правилно, тя им позволява да докажат, че са го направили.

„Доверието винаги съдържа елемент на предположение“, подчерта Дейвис. „Криптографската верификация заменя предположението с математическо доказателство. Това е архитектурната промяна, която корпоративните изчисления сега изискват.“

Според Дейвис всяка трансформационна ера в изчисленията е изисквала съответен архитектурен пробив. Интернет изискваше криптиране. Облачните изчисления изискваха виртуализация. Автономният ИИ изисква криптографска верификация.

„Всеки основен инцидент със сигурността на ИИ сега трябва да се разглежда първо като архитектурен провал и едва на второ място като събитие в киберсигурността“, каза Дейвис. „Следващият голям инцидент с ИИ няма да бъде просто събитие за сигурността. Той ще бъде архитектурен сигнал за събуждане.“

OpenMatter призовава технологичните лидери в предприятията, политиците, организациите за стандартизация и общността по киберсигурност да започнат да третират криптографската верификация не като поредната функция за сигурност, а като архитектурната основа, върху която трябва да се изграждат надеждни автономни изчисления.

„Корпоративните изчисления достигнаха до нов архитектурен кръстопът“, заключи Дейвис. „Ерата на доверие в автономния ИИ приключва. Ерата на доказване на автономния ИИ започна. Организациите, които първи познаят тази промяна, ще дефинират следващото поколение корпоративни изчисления.“

За повече информация се свържете с onboarding@openmatter.network.

С централа в Космическото крайбрежие на Флорида, OpenMatter Network изгражда Верифицируем слой на доверие за сигурно сътрудничество и ИИ агенти. Водена от принципа „Не се доверявайте на данните. Докажете ги.“, криптографски верифицируемата архитектура на компанията позволява сигурно сътрудничество, управлявано поведение на ИИ и математически доказуемо изпълнение в среди без доверие. За повече информация посетете www.openmatter.network.

  • Уязвимост за ескалация на привилегии в WalletService позволява на атакуващите пълен контрол над системи с Windows
  • Node.js коригира 11 уязвимости в сигурността, които могат да сринат сървъри и да нарушат ограниченията на файловата система
  • Групи за изнудване с рансъмуер атакуват VPN мрежи на Palo Alto, Fortinet, Citrix и Check Point, насочвайки се към корпоративни мрежи
  • Двуминутно обаждане в Microsoft Teams може да завърши с криптиране на вашата мрежа с рансъмуер
  • Хакери крият команди в имейли, за да измамят системите с ИИ, които ви защитават
  • Планиране на сигурността на вашия ИИ – как ще управлявате всичките си ресурси?
  • Хакери експлоатират близо една от всеки четири уязвимости, преди защитниците да получат CVE идентификатор
  • Полупроводниковата фирма Analog Devices потвърждава пробив в данните след проникване във вътрешни системи
  • Нова CosmosEscape уязвимост позволява на атакуващите да поемат контрол над инстанции на Azure Cosmos DB
  • Нов GenieLocker рансъмуер атакува Windows, ESXi и Linux