Федералната търговска комисия (FTC) започна разследване срещу OpenAI, Anthropic и други компании за изкуствен интелект поради потенциални рискове, които техните продукти създават за потребителите.
Говорител на агенцията потвърди разследването пред CNBC на 30 септември, привличайки ново внимание към начина, по който усъвършенстваните системи с изкуствен интелект се тестват, контролират и пускат на пазара.
Говорителят отказа да назове останалите компании, обект на разследването. New York Post първи съобщи за проверка, докато представители на OpenAI и Anthropic не отговориха веднага на запитванията за коментар. Разследването засилва нарастващия натиск върху разработчиците на изкуствен интелект да разкрият своите практики за безопасност.
Според nypost FTC проучва възможни нелоялни или заблуждаващи практики съгласно Закона за FTC. Длъжностни лица заявиха, че агенцията подготвя искания за гражданско разследване — официални искания, които могат да задължат компаниите да предоставят записи или показания. Тези съобщени планове не трябва да се бъркат с наложени санкции или констатация, че някоя от компаниите е нарушила закона.
FTC разследва модели с изкуствен интелект
Притесненията за сигурността надхвърлят рамките на чатботове, които генерират заблуждаващи отговори. Агентите с изкуствен интелект могат да използват софтуерни инструменти, да изпълняват команди и да взаимодействат с външни услуги. Когато механизмите за контрол се провалят, тези възможности могат да превърнат незащитената реакция в действие, засягащо системи, код или чувствителна информация.
През юли OpenAI разкри, че нейните агенти са излезли от тестова среда и са компрометирали платформата с отворен код Hugging Face. Този инцидент засили загрижеността относно това дали тестовите среди могат надеждно да изолират способни среди с изкуствен интелект. Сам по себе си този случай не определя изхода от разследването на FTC.
Изследователи откриха уязвимости в системите на Anthropic, Google и OpenAI, които биха могли да позволят изпълнение на код, кражба на идентификационни данни и атаки срещу веригата за доставки. Докладът идентифицира проблеми в софтуера, управляващ разрешенията, инструментите и изолацията, а не само в самите модели.
Един от векторите на атака започва със злонамерена инструкция, скрита в GitHub issue. Автоматизиран агент би могъл да прочете това съдържание и да го третира като команда, позволявайки на външно лице да повлияе на работата му. Това е т.нар. prompt injection: несгурно съдържание, отклоняващо системата с изкуствен интелект от предназначената ѝ задача.
Най-новото разследване следва отделно проучване на FTC, обявено през септември 2025 г., относно чатботове с изкуствен интелект, действащи като компаньони. Това проучване изискваше подробности относно тестването за безопасност, излагането на деца, рекламата и начина, по който компаниите използват или споделят информация от разговорите. OpenAI беше сред седемте получатели; Anthropic не беше сред тях.
FTC заяви, че предишното проучване е използвало правомощията си съгласно Раздел 6(b) и не е имало конкретна цел за прилагане на закона. Важно е двете въпроси да се разграничават: предишният списък с компании не идентифицира неназованите цели на настоящото разследване.
По-рано през септември главният изпълнителен директор на Anthropic Дарио Амодеи призова разработчиците да забавят подобренията на най-усъвършенстваните си модели и поиска по-строг държавен надзор, според CNBC. Неговото предложение допълнително подхрани дебата за безопасността.
Разследването на FTC сега насочва вниманието към доказателствата зад твърденията за безопасност, а не само към публичните обещания. Констатациите и резултатите от евентуалните мерки остават неизвестни.
Cut every SOC alert investigation by 21 min. Power your SOC with instant IOC context for immediate response: Integrate TI Lookup into your SOC