Агентният изкуствен интелект промени завинаги киберсигурността, като направи по-бързо и лесно откриването на уязвимости в софтуера и тяхното отстраняване или разработването на експлойти за тяхното използване като оръжие. Дългогодишният изследовател на уеб сигурността Джеймс Кетъл обаче искаше да погледне отвъд апокалипсиса на лов на грешки, за да проучи въпрос, който придоби още по-голяма спешност, тъй като големите организации за изкуствен интелект разкриват реални примери за хакерски атаки от страна на извънредно действащ изкуствен интелект: Може ли агентният изкуствен интелект да разработи нови, абстрактни методи за хакване, от концепция до практически атаки?

На конференцията за сигурност Black Hat в Лас Вегас в сряда Кетъл представи своите констатации, които илюстрират както бързо напредващите възможности на изкуствения интелект в киберсигурността, така и неговите ограничения. Засега отговорът на въпроса на Кетъл е нюансиран. Той заключи, че изкуственият интелект е може би минимално способен, но изключително ограничен в способността си да измисля нови пътища за атака по напълно автономен начин. Важно е обаче, че когато е съчетан с човешко ръководство и проницателност в ключови моменти, Кетъл установява, че изкуственият интелект е изключително мощен партньор при концептуализирането и откриването на нови стратегии за хакване.

След години проучване на уязвимости в уеб сигурността, Кетъл казва, че е открил изцяло нова област от потенциални уязвимости – наречена „Shared-Parser Confusion“ (объркване на споделения анализатор) – в резултат на разкритие от страна на изкуствения интелект относно уеб сървъри, използващи споделен код за обработка на заявки и отговори.

„Това е изключително важна тема, защото ако се замислите, заявките към уебсайт са напълно ненадеждни, те могат да бъдат всичко, но отговорите са надеждни“, споделя Кетъл пред WIRED преди презентацията си на конференцията. „Така че това е основна повърхност за атака и потенциално се прелива в много различни видове атаки.“

Откритието е резултат от месеци експерименти, започнали през септември 2025 г., като са използвани най-новите модели на Anthropic и OpenAI по това време. Кетъл искал да изследва способността на изкуствения интелект да извършва теоретични изследвания в областта на сигурността, но бързо осъзнал, че едно от препятствията е опитът на системите да представят съществуващи изследвания като оригинални, връщайки констатации по изключително езотерични теми, които са трудни за проверка. Имайки предвид това, той решава да ограничи тестовете си по-тясно, така че системите с изкуствен интелект да работят в рамките на неговата собствена област на експертиза в уеб сигурността. По този начин той има пълен контрол върху материала и знае, че изкуственият интелект не може да го измами. Освен това Кетъл разбрал, че чрез синтезиране на собствената си методология за изследване и обучение на моделите върху нея, той може да проучи по-дълбоко възможностите на системите да правят екстраполации сами.

„Интересувам се от тласкането на изкуствения интелект до абсолютния лимит, за да видя къде се проваля и къде е необходим човек“, казва Кетъл. „Все още има много малко хора, които говорят за това къде са границите, особено в пространството на сигурността, защото няма стимули да се говори за този ъгъл. Всеки иска да бъде възприеман като AI-native, а не да говори за това къде системата му се разпада напълно.“

Тъй като Кетъл усъвършенствал експериментите си – предоставяйки на моделите повече методологични данни и по-фини параметри – и с течение на времето дебютирали по-мощни модели, той казва, че системите имали все повече и повече констатации със скорост, далеч надхвърляща неговата собствена, създавайки това, което той описва като продуктивна обратна връзка за научни изследвания.

„Беше наистина интересно да премина през процеса. Той генерираше забележителни открития може би на всеки два дни, без дори да влизам в системата, дотолкова, че това ме караше да се тревожа“, казва Кетъл, „сякаш почти не искам да знам. Бяха толкова много изследователски насоки, че изпитваш страх да не изпуснеш нещо, ако не проучиш всички, така че това те принуждава да автоматизираш повече анализи.“

Освен че открил повече доказани примери за определени уязвимости за няколко месеца, отколкото вероятно би могъл да намери за няколко години, Кетъл се надявал също, че системата с изкуствен интелект може да открие изцяло нов клас от тези видове грешки. И в известен смисъл тя наистина успя, казва той, но констатацията се отнасяше до изключително рядък тип грешка и всъщност не беше експлоатируема в единствената налична уязвима цел. Кетъл подчертава обаче, че откритието за „Shared-Parser Confusion“ е толкова значимо, макар и да е съвместна работа между човек и изкуствен интелект, защото илюстрира реалността как системите с изкуствен интелект могат да допринесат най-мощно за работата по киберсигурност в момента – както за дефанзивно, така и за офанзивно хакване.

„То не беше в състояние да докаже това само, но анализира някои реални, доказани констатации и излезе с хипотезата, а аз я оцених и потвърдих“, казва Кетъл. „Това вероятно ще бъде откритието с най-голямо дългосрочно въздействие. То не можеше да направи това само, но аз със сигурност никога нямаше да го открия сам. Дори да ми бяхте дали единствения ред от документацията, нямаше да го видя. Но заедно успяхме да го открием.“