Идентификационните данни за изкуствен интелект (AI) привличат вниманието на престъпниците. Разрастваща се форма на злоупотреба, наречена „кражба на AI токени“ (AI token jacking), позволява на атакуващите да компрометират API ключове и да използват скъпи услуги за модели за сметка на някой друг. Резултатът може да бъде внезапна и огромна сметка.
Кражбата не се ограничава до един метод за проникване. Киберпрестъпниците могат да получат достъп до идентификационните данни на разработчиците чрез фишинг, зловреден софтуер за кражба на информация, незащитени споделени файлове, публични кодови хранилища или инфектирани софтуерни пакети.
Компрометираният ключ може да захранва нелегална прокси услуга, която консумира платен капацитет от изкуствен интелект.
Анализаторите от Unit 42 идентифицират нарастващ брой такива случаи и описват загуби, които могат да станат сериозни в рамките на минути.
В доклад на Palo Alto Networks се посочва, че атакуващите са превърнали неволно изложени на показ идентификационни данни в такси за близо 1 милион долара, преди жертвите да открият и ограничат злоупотребата.
Една малка тайна може да се превърне в скъпоструващ бизнес риск. Доставчиците на AI услуги често таксуват след потреблението, вместо да спират всяка необичайна заявка в реално време, докато акаунтите могат да се мащабират с малко ограничения.
Това забавяне дава възможност на киберпрестъпниците да изпълняват автоматизирани задачи или да препродават достъпа, оставяйки собственика отговорен за разходите.
Кражбата на AI токени позволява на хакери да крадат API ключове
API ключът е цифрово идентификационно средство, което позволява на софтуера да използва услуга, без да е необходимо потребителят да се вписва всеки път.
За големите езикови модели таксите обикновено се изчисляват на базата на токени – малки единици текст, обработвани от модела. Поради това откраднатите ключове представляват готова покупателна способност, а не просто тайна за влизане в системата.
Unit 42 свързва тази дейност с така наречените транзитни станции – услуги на сивия пазар, които стоят между потребителите и официалните AI платформи.
Тези услуги могат да ротират идентификационни данни, да пренасочват заявки и да таксуват клиентите, използвайки собствени кредити. Някои от тях рекламират достъп на ниски цени, което предоставя лесен начин за препродажба на откраднатите ключове.
При инциденти, прегледани от екипа, тази инфраструктура е генерирала десетки милиони API повиквания ежедневно, изтласквайки таксите до стотици хиляди долари.
Операторите се нуждаят от голямо количество евтини или откраднати идентификационни данни, за да поддържат ниски цени. Те могат да използват компрометирани акаунти на разработчици с високи привилегии, за да създават ключове, да активират модели, да премахват лимити за разходи или да заглушават предупреждения за сигурност.
Ето защо екипите трябва да третират изтеклите AI идентификационни данни като спешни инциденти, подобно на случая с източения сметкоплан от откраднат ключ за Gemini, където злоупотребата бързо генерира огромни разходи.
Докладът също така подчертава инфектираните, саморазпространяващи се npm пакети като особено тревожен метод за атака.
След като разработчик инсталира такъв пакет, той може да открадне идентификационните данни от тази среда и да компрометира следващите версии на кода, разширявайки набора от използваеми ключове.
Скорошни разкрития за кражби чрез зловредни npm пакети илюстрират как инфекциите по веригата за доставки могат да се насочат едновременно към идентификационни данни на разработчици, облачни услуги и AI платформи.
Ограничаване на финансовия радиус на щетите
Организациите имат малка възможност да възстановят парите си, след като доставчикът вече е фактурирал консумираните AI ресурси, според изследователите. Въздействието може да застраши съществуването на по-малки фирми.
Жертвите трябва да прегледат записите за използване на моделите и фактурирането, незабавно да анулират компрометираните ключове и да разследват активността по акаунта, за да установят кога са започнали подозрителните заявки.
Превенцията започва с лимити, които съответстват на нормалната употреба. Организациите трябва да зададат тавани за разходите за AI, да генерират предупреждения, когато потреблението рязко надвиши базовото ниво, и да преглеждат всеки акаунт с повишени привилегии, който може да предоставя ресурси или да променя контролите за фактуриране.
Това може да разкрие необичайна консумация преди получаването на месечната фактура. Екипите трябва да заменят дългосрочните ключове с кратковременни токени за достъп, където е възможно, и да гарантират, че всяка машина, използваща AI услуги, има потвърдена, управлявана идентичност.
Мрежовите граници около изчислителните ресурси също могат да спрат използването на компрометирани идентификационни данни от транзитни системи. Това намалява излагането на риск и времето за реакция на атакуващия.
Средата за разработка се нуждае от същото внимание. Преглеждайте зависимостите и тръбопроводите за изграждане (build pipelines), блокирайте ненадеждни пакети, сканирайте хранилищата и споделените хранилища за пароли и ключове и ротирайте изложените на риск идентификационни данни.
Докладите за изтекли онлайн API ключове и кражби чрез злонамерени разширения за среди за разработка (IDE) показват как рутинните работни процеси могат да разкрият тайни.
В крайна сметка кражбата на токени успява, когато мощен идентификационен дан остане неохраняван, а употребата му – неконтролирана.
Бързото анулиране на ключове, реалистичният контрол на разходите, по-строгите разрешения за достъп и внимателните практики по веригата за доставки на софтуер могат да спрат натрупването на такси, преди те да ескалират.