Генеральный директор Google DeepMind Хассабис призывает создать орган по стандартам ИИ под руководством США

Генеральный директор Google DeepMind Демис Хассабис призвал U.S. возглавить орган по стандартизации, который будет надзирать за новыми ИИ-моделями и оценивать риски для национальной безопасности, включая киберугрозы и биологические угрозы, в статье, опубликованной во вторник в X. Лауреат Нобелевской премии заявил, что нужны срочные меры для устранения рисков, связанных с искусственным общим интеллектом (AGI), отметив, что модельные «фронтиры» уже создают проблемы с точки зрения кибербезопасности, а ядерные и биологические риски, возможно, вскоре проявятся по мере развития возможностей ИИ. Призыв прозвучал на фоне растущей регуляторной напряженности: недавно Anthropic и OpenAI столкнулись с временными экспортными ограничениями и ограничениями на развертывание со стороны Trump administration.

Хассабис предлагает партнёрство США «гос–часть» для надзора за ИИ

Хассабис предложил решение для борьбы с угрозами ИИ в виде партнёрства США, возглавляемого государством и частным сектором, которое курируется федеральным правительством. Он сказал, что США хорошо позиционированы для лидерства в разработке ИИ-фреймворка благодаря своему экономическому и техническому положению. Предлагаемый орган будет смоделирован по образцу партнёрства «гос–часть», находящегося под федеральным надзором, или саморегулируемой организации, подобной Financial Industry Regulatory Authority (FINRA): в совете будут независимые ведущие технические эксперты и представители open source.

Орган по стандартам потребует существенного финансирования, чтобы привлечь таланты мирового класса и предоставить необходимые вычислительные ресурсы для масштабного тестирования; финансирование, вероятно, будет поступать от индустрии, заявил Хассабис. «Фронтирные» лаборатории на начальном этапе добровольно будут передавать модели в орган для проверки за срок до 30 дней до выпуска, а затем они станут обязательными для развертывания на рынке США после того, как будет показано, что они эффективны.

Конкретные тесты для агентного ИИ могут включать проверки попыток обхода защитных ограничителей или признаков обмана, а также обеспечение лучших практик, таких как цифровое водяное маркирование изображений, сгенерированных ИИ, и генерация токенов вывода, понятных человеку, чтобы понимать рассуждения модели, сказал Хассабис.

Комментарии прозвучали спустя месяц после того, как Хассабис и CEO Anthropic Даріо Амодей призвали к созданию возглавляемой США коалиции, чтобы сформировать правила и стандарты вокруг ИИ на встрече G7 с техлидерами и главами государств, включая президента Дональда Трампа, сообщает CNBC со ссылкой на источники, которые говорили с телеканалом. Sam Altman из OpenAI также призвал к созданию похожего органа в статье, опубликованной Financial Times ранее в этом месяце.

Китайские ИИ-модели набирают обороты, пока законодатели США рассматривают ограничения

Призывы к усилению регулирующего надзора звучат на фоне разгорающейся гонки между США и Китаем за разработку и развертывание ИИ-моделей. Недавние релизы моделей китайских компаний, включая DeepSeek и Z.ai, многие считают крайне конкурентоспособными по сравнению с ведущими «фронтирными» системами Anthropic и OpenAI, и они набирают обороты среди компаний в США по мере роста затрат на ИИ.

Сейчас законодатели США рассматривают, как ограничить растущее внедрение китайских ИИ-моделей компаниями внутри страны, при этом Госдепартамент заявил CNBC, что это вызывает серьезные опасения. В последние недели Anthropic была вовлечена в переговоры с чиновниками после того, как Trump administration временно ввела экспортные ограничения на продвинутую модель. OpenAI также столкнулась с ограничениями: изначально правительство США попросило ограничить развертывание новой модели.

FAQ

Что Демис Хассабис предложил во вторник?

Демис Хассабис, CEO Google DeepMind, призвал U.S. возглавить орган по стандартизации, который будет надзирать за новыми ИИ-моделями и оценивать риски для национальной безопасности, включая кибернетические и биологические угрозы, в статье, опубликованной во вторник в X.

Как будет работать предложенный орган по стандартам ИИ?

Предлагаемый орган будет смоделирован по образцу партнёрства «гос–часть», находящегося под федеральным надзором, подобного FINRA: в совете будут независимые технические эксперты и представители open source. «Фронтирные» лаборатории на начальном этапе добровольно будут передавать модели для проверки за срок до 30 дней до выпуска, а затем они станут обязательными для развертывания на рынке США после того, как будет показано, что они эффективны. Финансирование, вероятно, будет поступать от индустрии для привлечения технических талантов и предоставления вычислительных ресурсов для масштабного тестирования.