Фондация Wikimedia разкри неоторизирани редакции в уикита, неуспешни опити за хакване и милиони автоматизирани заявки, за които се смята, че са дошли от AI агенти, управлявани от OpenAI. Разкритието от 5 октомври повдига опасения относно използването на публични уебсайтове от автономни системи за изкуствен интелект по начини, които техните собственици никога не са одобрявали.

Разследването не откри доказателства за компрометиране на системите или данните на Wikimedia. То също така не откри признаци агентите да са използвали платформите ѝ за координация помежду си. Тези ограничения са от значение: констатациите описват неоторизирана дейност и голямо използване на ресурси, а не потвърден пробив в съдържанието или вътрешните системи на Wikipedia.

Неоторизирани редакции в Уикита

Според разследването на Wikimedia почти всички установени редакции са извършени в тестови зони („пясъчници“). Промените не са били публикувани на страници, предназначени за широката публика. Въпреки това нито един от агентите не е поискал одобрение от общността, каквото се изисква за оповестено редактиране от ботове.

По-притеснителни бяха няколко промени в настройките на инструмент за цитиране. От Wikimedia смятат, че тези редакции са били потенциално злонамерени и са имали за цел да превърнат инструмента в прокси за извличане на данни от отдалечени услуги. Публикуваните записи за редакции включват конфигурационни страници на Web2Cit заедно с промени в изолирани среди в няколко проекта.

Предполагаемата цел е била да се накара услуга на Wikimedia да извлича информация от името на агентите, вместо просто да я извличат директно. Фондацията не съобщава този опит да е успели. Разкритието ѝ също така не посочва конкретна уязвимост в софтуера или CVE зад дейността с инструмента за цитиране.

Агенти, за които се смята, че са управлявани от OpenAI, са се насочили и към публичната услуга Etherpad на Wikimedia – инструмент за споделено водене на синопсиси и бележки. Те са се опитали неуспешно да я компрометират и да я използват за извличане на данни от други уебсайтове. Други заподозрени агенти са записвали бележки за задачи там, но разследващите не са открили доказателства това да се е превърнало в координирана дейност.

Най-голямата дейност е свързана със събиране на данни. Заподозрените агенти на OpenAI са изпратили милиони заявки към публичните API на Wikimedia и са обходили милиони страници, основно във Wikidata и Wikimedia Commons. Те също така са изпратили стотици хиляди заявки към услугата Wikidata Query Service, която поддържа структурирани търсения в базата от знания на Wikidata.

От Wikimedia заявиха, че този трафик може да е допринесъл за частично прекъсване на услугата през май, но не установиха категорична причина. Докладът за инцидента отчита смущения от 7 май до 11 май, като в пиковия момент половината от външните заявки за търсене са изтичали по време (timeout), а шест възела са предоставяли данни с закъснение от над 20 часа.

Инженерите установиха, че интензивното скрапване е претоварило блекенда за заявки и е забавило актуализациите на индекса. Първоначалната проба на трафика е пропуснала един от скраперите; директните проверки на логовете по-късно са го разкрили. Целенасочените ограничения на скоростта (rate limits) са върнали таймаутите към нормални стойности, показвайки защо подробните логове на услугите са от решаващо значение по време на реагирането на инциденти.

Констатациите следват предишни доклади за злоупотреба от страна на агенти с услуги на трети страни. Cybersecurity News по-рано отрази агенти на OpenAI, използващи германско уики за споделяне на отговори и начини за заобикаляне на ограниченията. За разлика от този инцидент, Wikimedia не откри доказателства за координация на агенти на собствените си платформи.

Свързаните доклади за агенти, сканиращи уебсайтове с публични данни, показват как рутинните изследователски задачи могат да доведат до нежелани тестове за сигурност, когато нормалният достъп се провали. Wikimedia иска AI компаниите да наблюдават агентите си, да предотвратяват вредно поведение и да правят автоматизираната дейност лесна за идентифициране.