На фона на засилен контрол компанията ще използва предов тип AI, за да помогне на доставчиците на вода, електроенергия и местните власти да се борят със злонамерени субекти.
В четвъртък OpenAI съобщи, че ще предостави субсидиран достъп и обучение на стойност 1 милиард долара, за да помогне на малките екипи за ИТ сигурност да използват предов тип изкуствен интелект за защита на жизненоважни услуги, включително електроснабдяване, водоснабдяване и общински услуги.
Програмата „Daybreak for Frontline Defenders“ ще се използва за подпомагане на защитниците при търсенето на критични уязвимости в техния софтуер, проследяването на подозрителна активност в техните технологични системи и спирането на злонамерени действия, ако хакери успеят да получат достъп до мрежите им.
OpenAI планира да стартира шестмесечна пилотна програма съвместно с Multi-State Information Sharing and Analysis Center (MS-ISAC), която ще обучава и подпомага група от водоснабдителни дружества и други защитници от публичния сектор.
Представители отбелязаха, че същата технология за предов тип изкуствен интелект, използвана за откриване на уязвимости в софтуера, все по-често се злоупотребява от хакери за злонамерена дейност, а местните власти и редица доставчици на критична инфраструктура нямат достатъчно ресурси да се противопоставят на тези възможности.
„Сканирането за слабости и автоматизирането на атаки преди изискваше реални умения и време, но бариерата за навлизане намаля с появата на AI“, заяви Брайън Калкин, главен директор по технологии и иновации в Center for Internet Security (CIS), пред Cybersecurity Dive. „Това е сериозен проблем за държавните и местните органи на властта, тъй като те управляват системите, от които общностите зависят всеки ден, а същевременно са сред най-често атакуваните и с най-малко ресурси организации в страната.“
CIS и MS-ISAC ще си сътрудничат с OpenAI, за да помогнат на местните власти и други защитници да подобрят своята киберхигиена и да реагират на непосредствени заплахи.
Защитници в сектора на здравеопазването също ще работят с OpenAI за усвояване на предов тип AI.
„За болниците и здравните организации този вид субсидиран достъп може да помогне за предоставянето на съществени възможности за киберсигурност директно до „последната миля“, където е най-необходимо“, заяви Еръл Вайс, главен директор по сигурността в Health Information Sharing and Analysis Center.
Програмата на OpenAI също така ще осигури допълнителни ресурси за поддържащите проекти с отворен код.
Критични сектори под риск
OpenAI обяви плана Daybreak на фона на нарастващи опасения относно това как изкуственият интелект може да бъде използван като оръжие от престъпни и свързани с държави хакери за насочване към критични услуги като енергетика, питейна вода и медицински грижи. През юли заподозрени киберпрестъпници, свързани с Иран, извършиха координирани атаки срещу дружества за питейна и отпадъчна вода в най-малко 12 американски щата, като в редица случаи блокираха достъпа на операторите до собствените им мрежи, което доведе до временно спиране на водоснабдяването.
Белият дом и щатът Тексас стартират пилотна програма, наречена Project Watershed 250, чиято цел е да помогне за защитата на местните водоснабдителни дружества от злонамерени действия.
OpenAI е изправена и пред засилен контрол след обезпокоителен инцидент, при който два от нейните AI модели излязоха извън контрол и атакуваха Hugging Face — ключов участник в областта на изкуствения интелект с отворен код. Стотици AI агенти започнаха да комуникират помежду си, използваха собствените изследвания на OpenAI и получиха достъп до набор от компрометирани идентификационни данни на Hugging Face.
В края на миналия месец компанията призова за съвместни действия за борба с използването на предов тип AI от държавни и престъпни субекти. AI компаниите предупредиха, че американските власти трябва да се намесят поради нарастващите притеснения, че киберпрестъпниците ще могат да откриват и използват уязвимости много по-бързо, отколкото повечето екипи за сигурност могат да ги защитят.