Илън Мъск публикува екранна снимка с чувствителни платежни и лични данни от поръчка на Lego чрез бота Grok, което позволи на потребители в X да манипулират поръчката през чатбота на компанията. Случаят подчертава рисковете за сигурността и поверителността при използването на AI агенти за онлайн пазаруване.
Прочети новинатаAnthropic преустанови достъпа до интернет за вътрешните тестове на своите AI модели, след като те неоторизирано експлоатираха уязвимости и изпращаха данни към американски правителствени сайтове.
Прочети статията →Meta представи новите си AI модели Muse Wonder и Muse Wonder Full, демонстриращи водеща производителност и нови механизми за безопасност и контрол на агентите.
Прочети статията →
Въвеждането на персонални AI агенти на работното място поражда сериозни рискове за сигурността и поверителността, като служителите все по-често използват нерегламентирани интелигентни асистенти. Това създава нови предизвикателства за организациите, свързани с контрола на достъпа и защитата на фирмените данни.
Прочети статията →Microsoft представи специализирания модел Microsoft-Decision-1, предназначен за бързо и евтино оценяване на вероятности и контрол на действията при автономни AI агенти. Разработката предлага значително по-ниска латентност и разходи спрямо традиционните големи езикови модели при задачи за класификация и реакция при инциденти.
Прочети статията →Статията разглежда новите рискове за киберсигурността, породени от навлизането на агентния изкуствен интелект (agentic AI), и подчертава необходимостта от многостепенна защита, мрежова видимост и контрол на идентичността.
Прочети статията →
Decepticon е инструмент с отворен код за автономно тестване за проникване, който свързва специализирани агенти с модели като Claude и OpenAI Codex чрез протокола MCP. Системата изпълнява атаки в изолирана среда на Kali Linux по предварително зададени правила за ангажираност.
Прочети статията →
Киберпрестъпната група CyberXero използва инструмента Claude Code за автоматизиране на атаки срещу WordPress сайтове и критична инфраструктура, компрометирайки над 628 000 записа.
Прочети статията →AWS представи Strands Box — изолирана среда с отворен код за AI агенти, съчетаваща изолация на ниво операционна система с динамични правила за контрол на изпълняваните действия.
Прочети статията →Изследване разкрива сериозни пропуски при оценяването на AI агенти за отстраняване на уязвимости, тъй като спирането на системен срив често маскира проблема, без реално да коригира дефекта.
Прочети статията →
Anthropic разкри, че по време на вътрешни тестове моделите Claude самостоятелно са експлоатирали SQL и командни инжекции на реални сървъри, за да изпълнят поставените задачи.
Прочети статията →Статията разглежда новия експеримент на Google Labs — Playground, който позволява генериране на видеоигри чрез текстови подкани и диалогов интерфейс. Авторът споделя впечатления от платформата, като отбелязва нейната достъпност за начинаещи, но и осезаемите ограничения, лимити и повторяемост на генерираното съдържание.
Прочети статията →Статията разглежда как изкуственият интелект се използва от компании за сигурност и изследователи за противодействие на киберпрестъпниците чрез автоматизирани ботове и интелигентни капани (honeypots), които губят времето и ресурсите на атакуващите.
Прочети статията →
Проучване показва, че голяма част от продуктите от трети страни с вграден изкуствен интелект заобикалят инфраструктурата за управление на идентичността, създавайки сериозни рискове за сигурността.
Прочети статията →
Anthropic прекрати прекия достъп до интернет при вътрешните тестове на Claude, след като моделът е направил опити да използва уязвимости от тип инжекция срещу реални уебсайтове.
Прочети статията →