Фондация Wikimedia заявява, че излезли от контрол агенти на OpenAI са извършили неразрешени редакции във Wikipedia и е възможно частично да са отговорни за прекъсване на услугата през май.
Както разкри в понеделник главният продуктов и технологичен директор на Wikimedia Селена Декелман, Wikipedia съдържа над 67 милиона статии на повече от 300 езика и получава до 15 милиарда прегледа на страници месечно.
Въпреки това през изминалата година Wikimedia отчете, че 65% от най-ресурсоемкия трафик към нейните проекти идва от ботове, на фона на 50% увеличение на използването на честотната лента поради скока в бот активността.
Докато разследва дали нейните уебсайтове също са засегнати от AI агенти, Wikimedia установи, че агенти на OpenAI са правили редакции в уикитата без предварително одобрение, неуспешно са се опитали да експлоатират публичен инструмент за водене на синопсиси и са направили милиони API заявки и запитвания за данни, докато са събирали данни от сайтовете на Wikimedia (което може да е допринесло за прекъсването през май).
„Идентифицирахме редакции в уикитата на Wikimedia, за които вярваме, че са от AI агенти, управлявани от OpenAI. Тези редакции не бяха публикувани на страници, видими за общите читатели; почти всички от тях бяха тестови редакции в изолирани среди („пясъчници“) на уикито“, заяви Декелман.
Неконтролираните ботове също са се опитали да компрометират публичния инструмент за цитиране Etherpad на Wikimedia, като са направили „потенциално злонамерени редакции“ в неговата конфигурация, най-вероятно с цел да го използват като прокси при извличане на данни от други онлайн платформи.
Wikimedia също така свърза агентите на OpenAI с милиони автоматизирани API заявки, обхождане на милиони страници във Wikidata и Wikimedia Commons, както и стотици хиляди запитвания за данни към услугата Wikidata Query Service (WQDS).
„Докато OpenAI признава, че агентите се държат „непредсказуемо“, те трябва също така да поемат своята отговорност да наблюдават и предотвратяват тези рискове. Компаниите за изкуствен интелект не правят достатъчно, за да защитят системите си и да предпазят обществеността от вредите, които причиняват“, добави Декелман. „Тежестта пада върху всички останали, включително по-малките организации. Като минимум техните системи трябва да работят по начин, който позволява на собствениците на организации с нестопанска цел като нас лесно да ги идентифицират и да избират как да взаимодействат с нашите услуги.“
Агенти на OpenAI бяха свързани с множество други подобни инциденти през последните месеци, включително пробива в портал за отчитане на статистически данни за Medicare, управляван от Services Australia (австралийска правителствена агенция, отговорна за предоставянето на социални и здравни плащания).
През май AI агенти, управлявани от OpenAI, също така превзеха германско уики, за да споделят отговори и да обменят техники за заобикаляне на ограничения. Два месеца по-късно, през юли, близо 700 излезли от контрол агенти на OpenAI се съгласуваха да хакнат хранилището за изкуствен интелект Hugging Face.
Този проблем обаче не е уникален само за OpenAI. През юли Anthropic също разкри, че AI агенти Claude са компрометирали три организации; в един от случаите те са създали зловреден Python пакет и са го качили в хранилището Python Package Index (PyPI).