Скоростта и липсата на подходящи правни рамки са най-големите пречки пред противодействието на престъпните заплахи, базирани на изкуствен интелект (AI), според експерти по национална сигурност в новопубликувано проучване на Института за сигурност и технологии (IST).

Експертите също така се опасяват, че зависимостта на правителството на САЩ от експертните познания в индустрията на изкуствения интелект го прави уязвимо към т.нар. „регулаторно завладяване“ (regulatory capture). Проучването обхваща 111 респонденти от различни сфери на националната сигурност и е проведено от края на април до средата на юли.

Докладът на IST предоставя точна снимка на опасенията и очакванията, които определят политиките за изкуствен интелект в областта на киберсигурността и други сектори.

Един от основните изводи в доклада е, че правителството няма възможност да валидира и потвърждава твърденията на водещите лаборатории за изкуствен интелект относно това какво могат и ще правят техните продукти.

„Респондентите посочват хроничното недофинансиране на тестването и оценката, липсата на независими процеси за проверка и липсата на надежден начин за сравнителен анализ (benchmarking) на възможностите на водещите модели“, се казва в доклада.

Това недофинансиране означава, че държавните лидери не могат да потвърдят как ще се държат системите с изкуствен интелект, преди да ги интегрират във военни технологии и други критични платформи. Без собствени стандарти за оценка правителството е принудено да приема твърденията за възможностите на системите на доверие, вместо въз основа на реални измервания.

Експертите са изключително скептични и по отношение на това дали на настоящите AI системи може да се има доверие да действат самостоятелно. „Мнозина разглеждат халюцинирането като присъщо на AI моделите, което прави разчитането на тях изключително проблематично без подробна човешка проверка“, отбелязва IST. Според един от анкетираните, изкуственият интелект може да направи добрия анализ още по-добър, а лошия — още по-лош.

Над 80% от анкетираните заявяват, че е „много вероятно“ изкуственият интелект да подобри всички способности за киберзащита — от откриване на уязвимости до анализ на злонамерен код и реагиране на инциденти. Въпреки това 57% смятат, че в краткосрочен план AI помага повече на атакуващите, отколкото на защитниците.

Най-големият риск за киберсигурността, свързан с AI, е способността му да открива и експлоатира уязвимости. Респондентите поставят този риск на първо място с голяма преднина.

Въпреки че правните и регулаторните рамки се нареждат на второ място сред най-големите препятствия в борбата със заплахите от AI, експертите са разделени относно правилния начин за регулиране. Около една четвърт подкрепят междотраслови федерални изисквания, 31% подкрепят специфични за даден сектор изисквания, а 36% предпочитат хибриден подход.

Експертите препоръчват на вземащите решения да не се фокусират прекомерно върху уникалните възможности на изкуствения интелект при оценката на рисковете. Според тях основните пропуски в киберсигурността са най-вероятната причина за проблеми като „сценарии за загуба на контрол, злонамерени манипулации и кражба на тегла на модели (model weights) или проектни документации за оръжия“.

„Тесното място е внедряването на киберзащита в мащаб, а не самата технология“, отбелязва IST, като добавя, че слабата киберсигурност ще улесни реализирането на много от тези рискове.