По данным Decrypt, исследователи из Тель-Авивского университета, Техниона — Израильского института технологий, и Intuit обнаружили новый метод атаки 10 июля под названием «инъекция противоборствующих галлюцинаций», который использует галлюцинации моделей ИИ для обмана ИИ-агентов с целью загрузки вредоносного кода и потенциального формирования ботнетов. Злоумышленники предсказывают ложные ссылки на ресурсы, которые могут сгенерировать модели ИИ, заранее регистрируют их и внедряют вредоносные инструкции; при получении таких ресурсов ИИ-агенты воспринимают их как легитимный контент и выполняют код. Тестирование показало уровень галлюцинаций в 85% при сценариях клонирования репозиториев кода и 100% при сценариях установки навыков, что влияет на помощники по программированию ИИ, такие как Cursor, GitHub Copilot, Gemini CLI и OpenClaw.

Посмотреть источник

Дисклеймер: Информация на этой странице может быть получена из источников третьих сторон и предоставляется только для ознакомления. Она не отражает взгляды или мнения Gate и не является финансовой, инвестиционной или юридической рекомендацией. Торговля виртуальными активами связана с высоким риском. Пожалуйста, не основывайте свои решения исключительно на данных этой страницы. Подробнее смотрите в Дисклеймере.

Связанные новости

2ч назад

Фонд Ethereum: ИИ-агенты обнаружили реальные уязвимости в libp2p gossipsub, но большинство результатов — ложные срабатывания

5ч назад

Исследователи предупреждают, что агенты ИИ могут превратиться в ботнеты через HalluSquatting с уровнем галлюцинаций 85%

8ч назад

Фонд Ethereum ИИ-агенты обнаружили уязвимость удалённой паники в libp2p gossipsub, CVE-2026-34219 устранена

19ч назад

Сотрудник Arup Finance потерял 25 миллионов долларов из-за мошенничества с использованием ИИ и фальшивой видеоконференции

21ч назад

ИИ ускоряет скорость взломов, блокчейн-протоколам нужны постоянные аудиты, сообщает отчет Cointelegraph

Детальный анализ