Бележка на редактора: След повече от десетилетие това е последният брой на рубриката на WIRED „Security News This Week“. „Обзорът“, както го наричаме вътрешно, започна като начин да гарантираме, че читателите ни ще научат за най-важните новини в областта на киберсигурността и поверителността, дори и да не сме писали сами за тях. Това беше лесен начин да подчертаем собствената си работа и богатството от друга великолепна журналистика и изследвания, публикувани в тази сфера всяка седмица.

През годините обзорът събра предана аудитория, а някои издания дори се превърнаха във вайръл хитове — което, честно казано, е странно, но общността за киберсигурност е страхотна и необичайна, така че всичко си е на мястото. Бъдете сигурни, че на мястото на обзора идва нещо ново и вълнуващо, така че следете за него! Засега, както винаги, бъдете в безопасност.

Meta не успя да засече приблизително 350 реклами с насилие над деца, генерирани от изкуствен интелект, според нови проучвания от тази седмица, включително някои, съдържащи изображения на истински деца. В един от случаите изобразеното в реклама дете е било член на европейско кралско семейство. Законодателите заявиха намерение да проведат разследване, а Градската прокуратура на Сан Франциско разпореди на компанията тази седмица да спре да „позволява“ генерирани от ИИ реклами с насилие над деца.

В други новини около Meta: компанията обяви нов персонален ИИ агент тази седмица, който може да резервира самолетни билети или да продаде автомобила ви, но подчерта сериозните си инвестиции във функции за сигурност и поверителност, очевидно очаквайки недоверие от страна на потребителите. В същия дух срещу компанията беше заведен колективен иск тази седмица заради твърдения за незаконно събиране на снимки от Facebook и Instagram за обучение на системи с изкуствен интелект и лицево разпознаване.

Clearview AI тества необявен досега прототип на ИИ инструмент, известен като InquiryIQ, който ще помага на правоприлагащите органи да откриват приближени лица на дадена цел, профили в социалните мрежи и друга лична информация. Apple пък обяви набор от нови функции за „аудио интелигентност“ за своите устройства Apple Watch Series 12 и Ultra 4 тази седмица, които включват обработка на аудио от заобикалящата среда на потребителя. Компанията подробно подчерта защитите за сигурност и поверителност, вградени във функциите, може би предусещайки, че те могат да се възприемат като леко смущаващи.

САЩ и Мексико стартираха нова съвместна операция за засичане, проследяване и сваляне на дронове на границата чрез лазерна технология. Появи се и нов мод за GTA V, който ви позволява да печелите (в играта) пари, унищожавайки (в играта) камери на Flock за разпознаване на регистрационни номера.

Но чакайте, има и още! Ето новините за сигурността и поверителността, които не отразихме задълбочено сами тази седмица. Кликнете върху заглавията, за да прочетете пълните истории.

От спонсорирани от държави хакерски атаки до биологични оръжия: злоупотребата с Claude е буквално навсякъде

Anthropic може би е по-открита от всяка друга компания за изкуствен интелект относно начините, по които нейните инструменти са уязвими към злоупотреби. Тя публикува едни от първите доклади за това как нейната ИИ услуга Claude се използва в хакерски операции на киберпрестъпници, както и за разкритието, че нейните ИИ агенти са успели — подобно на тези на конкурента OpenAI — да излязат от своята изолирана среда и автономно да проникнат в мрежите на няколко организации в стремежа си да изпълнят потребителските команди.

Тази седмица компанията публикува нов всеобхватен доклад за това как е било злоупотребявано с Claude през последните осем месеца, а резултатите са смайващи по своя мащаб — макар и може би неизбежни в свят, където изкуственият интелект се използва като пряк път за повишаване на производителността за почти всичко. В казус след казус компанията документира как Claude е бил експлоатиран за спонсорирани от държави и киберпрестъпни атаки, дезинформационни кампании и операции за влияние и дори опити за разработване на биологични оръжия. Във всички тези случаи Anthropic твърди, че е пресякла дейността в процес на изпълнение.

В един от случаите група от руски правителствени хакери, идентифицирана от Microsoft като Midnight Blizzard, е използвала Claude за разузнаване, компрометирайки цели, включващи украински и други европейски правителствени мрежи, като е откраднала данни и е поддържала постоянен достъп. Киберпрестъпната група ShinyHunters е използвала Claude практически на всеки етап от своите кампании за проникване и изнудване. Кампании за дезинформация, фокусирани върху политиката навсякъде от Кения до Бангладеш, също са използвали инструмента. И може би най-тревожното: в шепа случаи Anthropic е открила потребители на нейните инструменти, които очевидно са се опитвали да разработят потенциални биологични оръжия като болестотворни патогени и токсини.

Въпреки че Anthropic изтъква в доклада успеха си при неутрализирането на тези заплахи — като същевременно скрито се хвали с мощта на своите инструменти — ефектът от представените казуси е по-скоро обезпокоителен, отколкото успокояващ. В крайна сметка няма гаранция, че Anthropic е забелязала всяка злонамерена употреба на своя изкуствен интелект. Като се вземат предвид нейните конкуренти и по-слабо защитените инструменти с отворен код, докладът прилича по-малко на победна обиколка за защитните механизми на изкуствения интелект и повече на предварителен преглед на хаоса, който предстои да бъде предизвикан от ИИ.

Федералните власти в САЩ разбиха Xinbi Guarantee — най-големия черен пазар в интернет

През своето четиригодишно съществуване Xinbi Guarantee се превърна в най-големия незаконен пазар в интернет. През него са извършени продажби на стойност над приблизително 30 милиарда долара, повечето от които под формата на пране на пари за криптоизмами от типа „рязане на прасета“ (pig butchering) — предимно базирани в Югоизточна Азия — но също така включващи трафик на хора с цел сексуална експлоатация и поръчков тормоз. Всичко това процъфтяваше в приложението Telegram, което спря каналите на Xinbi преди година, само за да може платформата да се изгради отново и в крайна сметка да се разрасне повече от всякога. Тази седмица правителството на САЩ най-накрая се намеси, за да направи това, което Telegram не успя — иззе каналите на Xinbi в платформата и наложи санкции на пазара. Министерството на правосъдието едновременно с това обяви акции срещу 13 бази за измами в Мадагаскар — знак, че западните правоприлагащи органи започват да приемат сериозно епидемията от криптоизмами с принудителен труд, но и доказателство за това колко широко са се разпространили тези операции.

Член на бандата за рансъмуер Conti беше осъден на 4 години затвор

Бандата за рансъмуер Conti беше една от най-опасните хакерски групи в света, преди официално да се разпадне през 2022 г. Според американските правоприлагащи органи тя е засегнала над хиляда жертви, изнудвайки ги за милиони, а в даден момент наруши работата на правителствените системи в Коста Рика до такава степен, че предизвика обявяването на извънредно положение. Сега един от членовете на тази група се изправя пред правосъдието: 44-годишният украинец Олексий Олексийович Литвиненко беше осъден на четири години затвор тази седмица — рядък пример за автор на кибератаки с рансъмуер, който ще влезе в американски затвор.

Meta остави онлайн генерирани от ИИ видеоклипове с насилие над деца, след като репортери сигнализираха за тях

Facebook поддържа голяма мрежа от профили, качващи генерирани от изкуствен интелект видеоклипове, изобразяващи насилие над деца, съобщава Futurism, чиито журналисти прекараха дни в каталогизиране на материала и продължаваха да намират повече, отколкото можеха да преброят. Клиповете показват как малки деца биват бити, горени, затваряни и държани гладни. Много от тях събират хиляди реакции от потребители, които изглежда смятат кадрите за истински. От Futurism заявиха, че са открили повечето от профилите, като са отворили един и след това са последвали препоръчания поток на Facebook, който е предоставял непрекъснат поток от подобни видеа — знак, че собствените системи на Meta вече могат да идентифицират категорията съдържание, което компанията твърди, че забранява.

Futurism подаде сигнал за осем от профилите през стандартния потребителски канал. Meta премахна два, единият от тях след първоначален отказ на сигнала. Няколко решения отнеха повече от седмица. Компанията изтри повечето от видеоклиповете, изпратени до нейния пресцентър, но първоначално остави други активни, включително такъв, показващ дете, заключено във фризер.

В допълнение към пълната забрана на материали със сексуално насилие над деца, писмената политика на Meta забранява показването на несексуално насилие над деца, независимо дали е реално или синтетично, с изключения за изкуство, анимации, филми и игри. Не се уточнява дали генерираното от ИИ видео попада под тези изключения. В изявление пред репортерите Meta посочи, че някои от докладваните връзки не нарушават правилата ѝ, и поиска от тях да не твърдят противното.