Новое оружие Грока против дипфейков: Как Маск борется с мошенничеством в видео с использованием ИИ

Маск's xAI только что выпустил нечто интересное — детектор дипфейков, который может изменить игру. Согласно BlockBeats, Grok запускает обновленные функции, которые могут обнаруживать видео, сгенерированные ИИ, анализируя битовый поток напрямую. Вот в чем фишка: он обнаруживает следы, оставленные во время сжатия или генерации, которые невидимы человеческому глазу, но рассказывают настоящую историю о том, является ли контент подлинным или фальшивым.

Инструмент, получивший прозвище «Детектив Правды или Лжи», работает, исследуя те тонкие артефакты, встроенные в само видео. Каждый раз, когда ИИ генерирует или сжимает видео, он оставляет отпечатки пальцев — крошечные недостатки и паттерны, которые теперь может уловить Grok. Маск ответил в X, что это только начало; Grok вскоре будет отслеживать дипфейки до их происхождения по всему интернету.

Почему это важно: по мере того как генерация видео с помощью ИИ стремительно растет, так же растет и проблема дезинформации. Дипфейки становятся пугающе хорошими, и платформы испытывают трудности с тем, чтобы идти в ногу. Наличие ИИ-детектива, который может отличать реальное видео от синтетического, может стать большим делом для проверки контента, особенно с учетом того, что выборные сезоны приближаются, а недобросовестные участники становятся более изощренными.

Настоящий вопрос: будет ли это действительно работать в больших масштабах, или это лишь попытка угнаться за следующим поколением видео-хитростей ИИ? В любом случае, ставка Маска на это показывает, насколько серьезной стала угроза дипфейков.