Повече от 80 000 сървъра посредници помагат на потребители в Китай да заобикалят географските ограничения за водещи модели с изкуствен интелект от САЩ, според Team Cymru.
„Това, което разкрихме, е цяла екосистема, създадена изрично за нарушаване на общите условия на доставчиците на авангардни модели, улеснявайки измами и незаконна дейност“, заяви Скот Фишър, старши главен инженер в Team Cymru.
По-рано този месец CISA, NSA и FBI предупредиха в съвместно съобщение, че базирани в Китай компании за изкуствен интелект провеждат мащабни кампании за дестилация на знания, за да извлекат възможности от водещи американски модели.
Как функционира мрежата от AI посредници
Посредниците, известни като транзитни станции, събират акаунти за изкуствен интелект и предоставят свои собствени ключове на клиентите, така че няколко души да могат да достъпват авангардни модели през един и същ сървър. Доставчикът вижда само посредника, което скрива кои са потребителите и къде се намират, и затруднява прилагането на регионални забрани, проследяването на употребата и откриването на злоупотреби.
Как функционира системата от транзитни станции (Източник: Team Cymru)
Фишър определя дестилацията на модели като една от най-значимите форми на тази злоупотреба.
„Вместо самостоятелно да създава изследванията, данните и изчислителните ресурси, необходими за изграждането на авангарден модел, даден атакуващ може да изпраща запитвания в голям мащаб към по-силен модел „учител“, да събира резултатите му и да ги използва за подобряване на по-евтин модел „ученик“. Това позволява части от възможностите на модела „учител“ да бъдат прехвърлени на значително по-ниска цена спрямо самостоятелното им разработване, поради което основните доставчици на авангардни модели забраняват използването на техните резултати за обучение на конкуриращи се модели.“
Повечето от посредниците използват Claude Relay Service или неговия наследник sub2api. И двата инструмента са публикувани в GitHub от разработчик под псевдонима Wei-Shaw. Най-новата версия включва управление на потребители, таксуване на отделен потребител, слой, който преобразува абонаментите в API достъп, и функция за одит на заявките.
Страницата на sub2api в GitHub изброява 26 търговски спонсора. Петнадесет от тях продават достъп до AI модели чрез посредници, седем продават жилищни проксита (residential proxies), а двама продават акаунти за AI услуги. Останалите два са мрежа за доставяне на съдържание (CDN), изградена за трафик на посредници, и препродавач на системи за генериране на изображения и видео.
Според Team Cymru продавачите на акаунти получават своите данни за достъп чрез експлоатиране на промоционални оферти и вероятно чрез атаки с компрометирани пароли или кражба на токени.
Хиляди посредници, терабайти трафик
За осемдневен прозорец на сканиране на данни изследователите потвърдиха 10 867 посредника — брой, който по-късно нарасна до над 80 000. От първите 10 867, 9 456 са използвали sub2api, а 1 353 са използвали по-стария Claude Relay Service.
Сървърите посредници са били хоствани в 457 различни мрежи, като нито един хостинг доставчик не е държал повече от около 11% от тях.
Изследователите са проучили един клъстер, хостван при няколко VPS доставчика в САЩ. Над 4 000 адреса в Китай и Хонконг са се свързали с 304 посредника в този клъстер. За осем дни в края на август те са качили около 14 TB и са изтеглили над 7 TB.
Семнадесет посредника са изпращали трафик директно към API-то на Anthropic. Те са качили около 81 GB и са изтеглили около 1.4 GB — съотношение 58 към 1.
Големият обем данни, изпратени към API-то на Anthropic, може да съответства на автоматизирано мащабно изпращане на заявки. Въпреки това изследователите не са могли да инспектират заявките или отговорите на модела и следователно не са успели да потвърдят дали дейността е включвала дестилация на модели или друга форма на злоупотреба.
Team Cymru сподели установените IP адреси на посредниците със засегнатите AI доставчици и заявява, че ще продължи да търси нови сървъри посредници.