Като автор на бюлетин за изкуствен интелект, считам за свой дълг да изпитам най-новите постижения на тази технология от първа ръка. Тази седмица това означаваше да се прегърне известен хаос, предизвикан от автономни агенти.

Вероятно ви е известно,телно че водещите модели на изкуствен интелект придобиха напреднали възможности за киберсигурност през последните месеци. Те могат да откриват уязвимости от тип нулев ден в големи кодови бази и да сканират компютри за уязвимости с бързината на светлината. За да станат нещата още по-вълнуващи, агентите за киберсигурност понякога излизат извън контрол, сговарят се помежду си и хакват външни системи, за да получат предимство.

За да разгледам нещата отблизо, реших да пусна един такъв агент в собствената си домашна мрежа. В продължение на няколко дни наблюдавах как моят собствен излязъл извън контрол агент намираше уязвимости в различни домашни устройства, хакна един компютър и ми показа, че няколко проекта, създадени чрез vibe-coding, бяха — честно казано — пълни с грешки. (Съпругата ми знаеше с какво се занимавам и въртеше очи всеки път, когато гордо обявявах откриването на нова уязвимост.)

Но Уил, може би си мислите, да дадеш на един пакостлив, всемогъщ агент за киберсигурност достъп до домашната си мрежа е пълно безумие. И ще бъдете абсолютно прави! Въпреки това вярвам, че добър начин да разберем кошмарния пейзаж в киберсигурността пред нас е да го посетим.

В крайна сметка моят експеримент беше разкриващ, но и странно успокояващ. Моето малко мрежово гремлинче ми показа колко уязвим би бил домашният ми живот за хакване с изкуствен интелект, но също така ми каза как да направя всичко много по-защитено. В края на краищата открих, че най-добрият начин да се справите с хакването с изкуствен интелект може би е да имате собствен AI хакер.

Неконтролируем модел

Получих идеята за експеримента, след като открих Abliteration AI — стартъп, който предлага достъп до мощни AI модели с премахнати обичайни защитни ограничения.

Повечето масови AI модели ще откажат да отговорят на определени запитвания и със сигурност ще откажат да откриват и експлоатират уязвимости в компютърни системи. Но е възможно да се премахнат тези ограничения чрез откриване и модифициране на определени модели в рамките на вътрешните параметри на модел с отворени тегла. Можете да настроите моделите, които водят до откази, чрез процес, известен като abliteration.

Премахването на защитните ограничения на изкуствения интелект може да изглежда рисковано, но не е необичайно. Академичните изследователи използват тези премахнали ограниченията си модели, за да разберат по-добре как всъщност работи изкуственият интелект, докато фирмите за киберсигурност ги използват, за да проучват софтуер и системи за уязвимости. Технически погледнато, Mythos на Anthropic и Astra на OpenAI работят по подобен начин: те са основно конвенционални модели, на които липсват обичайните кибер контроли, като достъпът за момента е ограничен до доверени клиенти. (Компаниите също така предлагат по-широк достъп до модели със среден брой защитни ограничения, така че компаниите да могат да проверяват кода и системите си за проблеми.)

Abliteration AI предлага няколко напълно освободени от ограничения модели, най-мощният от които е версия на най-новия агентен модел за кодене на Z.ai, GLM 5.3. Това поставя подобни кибер възможности като тези на Mythos и Astra директно във вашите ръце срещу сума, не по-голяма от цената на една пица.

Девон, главен изпълнителен директор на Abliteration AI, вярва, че осигуряването на широк достъп до модели без ограничения е умна защита: то ще помогне на добрите да се противопоставят на лошите, като проучват системите за уязвимости и като имитират поведението на хакери, измамници и, да, излезли извън контрол AI агенти. (Девон поиска да използвам само първото му име, тъй като на основната си работа не знаят за неговия страничен проект.)

„Имате всички тези компании от критичната инфраструктура, от авиокомпании до банки, които внедряват агенти като луди“, казва Девон. „Как да се уверите, че злонамерен субект не може да използва някои от тези агенти по лош начин?“

За начало създадох акаунт в Abliteration AI и инсталирах софтуерна рамка, наречена CyberStrike, която помага за ръководенето на голям езиков модел през различни задачи по киберсигурност.

Използвайки CyberStrike, поисках от модифицираната чрез abliteration версия на GLM-5.3 да хвърли един поглед на моята локална мрежа. Няколко момента по-късно тя откри около дузина хардуерни системи в същата мрежа — и каталогизира няколко уязвимости.

Моят непокорен помощник ми каза например, че принтерът ми е с грешна конфигурация, което означаваше, че всеки в мрежата може да влезе в него. Това би могло да бъде проблем, ако в опашката за печат имаше чувствителни документи — данъчни декларации, банкови извлечения, медицински досиета.

Агентът отбеляза също така, че моята стерео система Wiim изтичаше много информация. (Знаеше, че последната възпроизведена песен е била Rein Me In на Sam Fender и Olivia Dean, ако държите да знаете.) Всеки в мрежата можеше да пуска каквото поиска или да регулира силата на звука. Моделът откри и куп устройства от интернет на нещата (IoT) в мрежата с фърмуер, който се нуждаеше от обновяване.

Един неподдаващ се на контрол агент би могъл да бъде много полезен за даден хакер. Но моят предложи редица полезни съвети за поддържане на мрежата ми защитена. Освен инсталирането на обновления за остарелия фърмуер и защитата на принтера, той препоръча поставянето на IoT устройства като интелигентни високоговорители в мрежа за гости; ако едно от тях бъде компрометирано, то няма да може да вижда никой от моите компютри. Не е зле за модел без морални принципи.

Също така поисках от агента да разгледа директория, съдържаща куп vibe-coded проекти, включително някои, които превърнах в прости уебсайтове. Той откри десетки проблеми, включително незащитени API данни за достъп и грешна конфигурация, която би могла да позволи на атакуващ да изпраща имейли. Едва ли е изненадващо за куп небрежно създадени чрез vibe-coding неща, но все пак е смиряващо. Самият брой на грешките ме кара да мисля, че няма да внедрявам нито ред код, без първо да направя AI проверка.

Факторът страх

Използването на модел без ограничения, казано направо, е малко плашещо.

Поисках от моя агент да проучи Linux машина в моята мрежа за уязвимости. След като изпълни куп сканирания, той съобщи, че машината изглежда сравнително защитена. След това попитах дали може да разбере как да влезе. Той хитро откри работещо потребителско име въз основа на името на други системи в мрежата. Опита куп очевидни пароли, които не проработиха. Освен това предложи да напише скрипт за опит за разбиване на паролата чрез „груба сила“ (brute force), но му казах да се оттегли.

За мое удивление агентът след това откри криптографски ключ на моята машина, използва го за влизане без парола и започна да търси паролата, за да получи root достъп. Изпитах момент на чиста паника, когато го видях да рови из директориите. Това ме накара да се запитам докъде би могъл да стигне агентът, за да постигне целта си. Възможно ли е да е хакнал нещо друго, като например машина извън моята мрежа, в търсене на ключа? Вероятно не, но кой знае с тези агенти.

Някои прояви на поведение биха могли да се окажат още по-рискови. Когато се свързах към моята Wi-Fi мрежа няколко часа по-късно и поисках от модела да провери дали може да открие нови устройства, той не само откри рутера, но и реши да се опита да влезе в него, изпробвайки няколко често срещани комбинации от рода на „admin/passwords“. Ако беше решил да направи това в чужда мрежа, щях да имам сериозни неприятности.

Шонан Кони, компютърен учен от Университета Тафтс, специалист по киберсигурност и право, казва, че изглежда предстои равносметка в киберпространството.

„Атакуващите често са сред първите, които внедряват новите технологии“, казва Кони. „Съществува и асиметрия – за да защитите един замък, трябва да се уверите, че никъде няма дупки или разхлабени тухли в стената. За да нахлуете в замък, трябва само да намерите тази единствена разхлабена тухла.“

В дългосрочен план, казва Кони, разпространението на модели с възможности в областта на киберсигурността може да направи софтуера като цяло по-сигурен. Предизвикателството е, че много компании не мислят за укрепване на защитите си. „Повечето организации имат други неща, за които да се притесняват“, казва той.

След всичко това изключих модела и се върнах към използването на стандартна, напълно приведена в съответствие версия. Claude Code или Codex ще правят само определени неща, свързани с киберсигурността, като например да ви помогнат да конфигурирате защитната стена на лаптопа си. Но поне няма да хакнат системата ви, преди да разберете. Надявам се.

Киберхакване с ИИ за всички

Освен ако моделите с отворени тегла не бъдат изцяло забранени, разширените възможности за хакване с ИИ скоро ще станат широко достъпни. Моят експеримент ме накара да се замисля, че това може да е точно това, от което се нуждаем. Като се има предвид, че киберпрестъпниците ще имат достъп до ИИ, не трябва ли всички ние да го използваме, за да се защитаваме?

„Трябва да помогнем на хората да използват тези възможности“, казва Александър Мондри, професор в MIT, който изследва безопасността на ИИ и в момента е в отпуск, докато работи за OpenAI. „Вярвам, че ще има място за инструменти с отворен код и независими решения. Най-малкото защото в крайна сметка точно този тип подходи имат истинска устойчивост в света на сигурността.“

Мондри отбелязва обаче, че ключов въпрос може да бъде осигуряването на достъп за тези, които управляват критична инфраструктура като електроцентрали или финансови пазари, до по-мощен ИИ от този на средностатистическия script kiddie (или ИИ журналист).

Използването на ИИ, на когото липсват стандартните защитни ограничения, е едновременно вълнуващо и тревожно. Но ако предстои равносметка в киберпространството, може би е време да се въоръжим с необходимите инструменти.

Това е издание на бюлетина AI Lab на Уил Найт. Прочетете предишни издания тук.