Специалистите по мрежова защита се надпреварват да обезопасят своите ИТ системи, преди престъпни и държавни субекти да заобиколят съществуващите предпазни ограничения.
Престъпни и свързани с държави автори на заплахи тестват водещи ИТ модели и такива с отворен код (open-weight), за да разработят нови методи за атакуване на корпоративни ИТ мрежи.
Атакуващите използват изкуствен интелект (ИИ) за широк спектър от дейности, което им позволява да разработват нови експлойти, да ускоряват скоростта на атаките и да поддържат присъствие в системите чрез злоупотреба с легитимни инструменти, заявиха изследователи от Accenture и Google Cloud по време на медийна презентация на конференцията Black Hat USA в Лас Вегас.
Разработчиците все по-често поставят предпазни ограничения на определени водещи ИИ модели, за да ограничат злоупотребата с тях. В отговор на това злонамерените субекти се насочват към модели с отворен код, за да заобиколят тези контроли и да увеличат възможностите си за извършване на злонамерена дейност.
За автор на заплахата, който провежда сложна атака, съществува интерес да може да действа в относителната анонимност на модел с по-слаб надзор.
„Наистина ли искате да го направите на място, където потенциално бихте могли да бъдете наблюдавани?“, попита относно потенциалната заплаха Джон Хулткуист, главен анализатор в Google Threat Intelligence Group (GTIG).
През май изследователите от GTIG предупредиха, че атакуващите използват ИИ, за да се възползват от работеща zero-day уязвимост. Злонамерените субекти също така вземат под прицел среди с ИИ, за да атакуват веригите за доставка на софтуер за по-мащабни кампании.
Резкият скок на подпомаганите от ИИ хакерски атаки идва в момент, когато водещите компании за ИИ поставят предпазни мерки за сигурност около технологията, като същевременно избягват допълнителен регулаторен контрол.
Само миналия месец се случи обезпокоителен пробив в сигурността, когато автономен агент в OpenAI излезе извън изолираната среда и проби производствената среда на Hugging Face. Критиците на сигурността на ИИ видяха в инцидента потвърждение, че разработчиците на ИИ се нуждаят от повече регулаторни предпазни ограничения около технологията.
Райън Уелън, управляващ директор и глобален ръководител на Accenture Cyber Intelligence, заяви, че чрез насочването към тези модели с отворен код се понижават „бариерите за навлизане“ за атакуващите, които се опитват да извършват тези злонамерени дейности.
Киберпрестъпниците използват ИИ, за да получат достъп до корпоративни мрежи чрез нови техники, каза Уелън, който ръководеше дискусията на Black Hat. Вместо да крадат пароли, хакерите са преминали към кражба на токени, бисквитки или сесийни идентификатори, което им позволява да заобикалят традиционните протоколи за сигурност.
Екипите по сигурността биват въвлечени в надпревара във въоръжаването, базирана на ИИ, където технологията позволява на противниците да стъпят в корпоративните системи, преди екипите по сигурността да успеят да открият проникването и да ограничат щетите.