Повече от 100 организации от секторите на технологиите, киберсигурността и финансовите услуги се присъединиха към OpenAI в отворено писмо, настояващо за глобален възход в киберотбраната, тъй като моделите с изкуствен интелект (ИИ) стават все по-способни да атакуват и защитават цифрови системи.

Публикувано в четвъртък под заглавието „Призив за колективни действия в областта на киберотбраната“, изявлението предупреждава, че подпомаганите от ИИ кибератаки ще станат много по-разпространени и сложни през следващите месеци, застрашавайки болници, пречиствателни станции за вода и инфраструктурата, която захранва интернет.

Коалицията включва Anthropic, Google, Microsoft, Amazon Web Services, Oracle, Cisco, CrowdStrike, Palo Alto Networks, IBM, Adobe, AMD, Arm, SAP, Dell Technologies, General Motors, Visa, Mastercard, Capital One, Hugging Face, Fortinet и Check Point.

В петък списъкът достигна около 118 организации, обхващащи облачни услуги, полупроводници, финанси и производство, като се очаква да бъдат добавени още имена.

В писмото се твърди, че запазването на статуквото в сигурността е невъзможно. Годините на некоригирани уязвимости, прекомерни права за достъп, неправилни конфигурации, слаба автентификация и технически дълг в остарели системи са оставили мрежите уязвими, докато екипите по сигурността, особено тези, които охраняват критична инфраструктура, остават с недостатъчни ресурси.

Същият напредък в областта на ИИ, който притеснява защитниците, вече предлага нови начини за откриване и отстраняване на тези слабости, ако индустрията и правителствата действат по време на това, което подписалите писмото наричат „прозорец на защитниците“.

Това предупреждение следва инцидент от юли, при който OpenAI заяви, че нейните агенти за оценка са излезли от тестова среда и са осъществили достъп до Hugging Face и системите на компанията.

Сам Рубин, ръководител на отдела за разузнаване на заплахите в Palo Alto Networks, сподели, че компанията е видяла достатъчно от тестването на авангардни модели и злоупотребата с търговски инструменти за ИИ в реални условия, за да нарече настоящия момент „поколенческа промяна в киберсигурността“. Главният изпълнителен директор на OpenAI Сам Алтман отделно описа това като решаващ период за отбраната, управлявана от ИИ, заявявайки, че ще проработи само спешна, високоинтензивна колективна реакция.

На всяка организация се препоръчва да третира киберотбраната като непосредствен приоритет за ръководството, да коригира уязвимостите с най-висок риск, без да нарушава основните услуги, и да повиши изискванията за сигурност към това, което купува, изгражда и внедрява, включително код, генериран от ИИ.

Когато инсталирането на корекции за сигурност би прекъснало операциите, трябва да се прилагат и проверяват компенсиращи контроли. От доставчиците на киберсигурност и технологичните партньори се изисква непрекъснато да тестват защитите срещу авангардни възможности, да направят инструментите с ИИ лесни за внедряване от операторите на критична инфраструктура и да споделят разузнавателни данни за заплахи и планове за действие, измервайки успеха по това колко организации са защитени и колко бързо са овладени атаките.

Правителствата са призовани да координират отбраната на местно и международно ниво, да финансират основни услуги, на които липсва персонал или бюджет, да разширят програмите за доверен достъп за веригите на доставки на критична инфраструктура, да осигурят на болници, водоснабдителни дружества и местни власти достъп до дефанзивен ИИ и оторизирано тестване, както и да налагат санкции на атакуващите.

От компаниите, разработващи авангарден ИИ, се изисква да предоставят отговорен достъп до моделите, финансиране, обучение и практическа подкрепа; да изградят възможности за наблюдение, така че самоличността на автономните агенти да остане проследима; и да споделят инструменти, планове за действие и надеждни оценки на заплахите с правителства, партньори по сигурността и поддръжници на проекти с отворен код.

Писмото не определя конкретни парични суми или твърди крайни срокове. Неговото искане е практично: да се постави управляваният от ИИ киберкапацитет първо в ръцете на защитниците, като се започне с екипите, които защитават основни услуги, да се проверят най-опасните корекции и да се споделя това, което работи, преди предимството на атакуващите да се затвърди.

  • Предотвратете инциденти поради бавни разследвания. Захранете вашето първо ниво на сигурност с данни за заплахи от 15 000 центъра за операции по сигурността (SOC): Интегрирайте TI Lookup във вашия SOC
  • Фишинг комплектът Mirage2FA заобикаля многофакторната автентификация (MFA), за да отвлича сесии на Microsoft 365, насочвайки се към над 3500 организации
  • Доверените доставчици се превръщат в пътища за атака: Как предприятията в САЩ и ЕС могат да намалят риска
  • Защо потоците от разузнавателни данни за заплахи често не отговарят на очакванията на SOC
  • Контролен списък за сигурност на привилегиите от крайни устройства до облака: 21 контроли за елиминиране на постоянния достъп
  • Топ 10 заплахи от зловреден код за седмицата – AsyncRAT, Remcos и Xworm водят вълната
  • Критична уязвимост в cPanel позволява на атакуващите да поемат пълен контрол над сървъра
  • Уязвимост в PaperCut NG/MF се експлоатира активно при атака – засегнати са всички версии
  • Киберпрестъпници продават номера на социални осигуровки на корпоративни ръководители само за 25 цента
  • CISA предупреждава за уязвимост в Citrix NetScaler ADC и Gateway, експлоатирана при атаки
  • GitLab коригира уязвимост в ИИ агента Claude, която може да изпълнява произволни команди в CI конвейера
  • Какво разкриват 45 милиона опита за експлоатация на wp2shell за новия прозорец за реакция при уязвимости
  • Размисли след инцидента с Hugging Face: Атакуващият автономен агент вече е тук
  • Фаза II на CMMC е спряна, но задълженията за сигурност на данните на изпълнителите остават в сила
  • От реактивна съдебна експертиза към превантивна защита: Укрепване на киберустойчивостта в банковия сектор
  • Когато ИИ избира вашите зависимости, проверката е по-важна от всякога