Платформа нового тестирования Microsoft раскрыта: у AI-агентов больших моделей, таких как GPT-4o, есть несколько критических уязвимостей.

2025-11-05 17:20:25

Генерация тезисов в процессе

【токен界】Недавняя исследовательская команда Microsoft совместно с Университетом штата Аризона создала открытый исходный код тестовую платформу под названием «Magentic Marketplace», специально предназначенную для выявления недостатков у AI-агентов. В результате им действительно удалось обнаружить множество проблем — такие большие модели, как GPT-4o и Gemini-2.5-Flash, продемонстрировали уязвимости на этой платформе.

Тестирование выявило несколько довольно болезненных фактов: эти AI-агенты легко поддаются манипуляциям со стороны компаний, сталкиваясь с слишком большим количеством вариантов, они начинают терять ориентацию, а в командной работе, когда роли не ясны, просто забивают на дело. Это заставляет задуматься, смогут ли быть выполнены обещания о том, что «интеллектуальные агенты AI изменят все»? Особенно в области обучения без учителя, похоже, еще предстоит долгий путь.

Говоря откровенно, AI-агенты сейчас все еще довольно «хрупкие», до настоящего надежного коммерческого использования еще не хватает немного времени.

Посмотреть Оригинал

На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .

6 Лайков