Генеральний директор Google DeepMind Хассабіс закликає створити орган із стандартів для ШІ під керівництвом США

Генеральний директор Google DeepMind Деміс Гассабіс закликав США очолити орган зі стандартів, який наглядатиме за новими моделями ШІ та оцінюватиме національні ризики безпеки, зокрема кіберзагрози й біологічні загрози, у статті, опублікованій у вівторок у соцмережі X. Лауреат Нобелівської премії заявив, що потрібні термінові дії, щоб упоратися з ризиками, пов’язаними з штучним інтелектом загального призначення (AGI), зазначивши, що передові моделі вже створюють проблеми з кібербезпекою, а ядерні та біологічні ризики можуть з’явитися найближчим часом у міру розвитку можливостей ШІ. Заклик лунає на тлі зростання регуляторної напруги: нещодавно Anthropic і OpenAI зіткнулися з тимчасовими експортними обмеженнями та обмеженнями щодо розгортання з боку адміністрації Трампа.

Гассабіс пропонує державно-приватне партнерство для нагляду за ШІ під керівництвом США

Гассабіс запропонував державно-приватне партнерство під керівництвом США, яке наглядатиме федеральний уряд, як рішення для протидії загрозам ШІ. Він сказав, що США добре позиціоновані для лідерства у створенні рамки для ШІ завдяки своїм економічним і технічним позиціям. Запропонований орган планувалося б моделювати на основі державно-наглядової державно-приватної співпраці або організації саморегулювання, подібної до Financial Industry Regulatory Authority (FINRA), з наглядовою радою, що включатиме незалежних провідних технічних експертів і представників спільнот із відкритим кодом.

Орган зі стандартів вимагатиме значного фінансування, щоб залучити технічні кадри світового рівня та надати необхідні обчислювальні ресурси для масштабного тестування — ймовірно, фінансування надходитиме від індустрії, за словами Гассабіса. Передові лабораторії спочатку добровільно передаватимуть моделі органу для огляду до 30 днів перед випуском, перш ніж вони стануть обов’язковими для розгортання на ринку США після демонстрації ефективності.

Конкретні тести для агентного ШІ можуть включати перевірку спроб обходу запобіжників безпеки або ознак оманливості, а також забезпечення найкращих практик, як-от цифрове водяне маркування зображень, згенерованих ШІ, і створення токенів із текстовим виводом, який читається людьми, щоб зрозуміти міркування моделі, сказав Гассабіс.

Коментарі з’явилися через місяць після того, як Гассабіс і CEO Anthropic Даріо Амодей закликали до коаліції під керівництвом США, щоб сформувати правила та стандарти щодо ШІ на зустрічі G7 із техлідерами та главами держав, яка включала президента Дональда Трампа, за даними джерел, що спілкувалися з CNBC. Сем Альтман з OpenAI також закликав до подібного органу в статті, опублікованій Financial Times на початку цього місяця.

Моделі китайського ШІ набирають обертів, поки законодавці США розглядають обмеження

Заклики до посиленого регуляторного нагляду лунають у момент, коли змагання між США та Китаєм у розробці й розгортанні моделей ШІ розігрівається. Нещодавні релізи моделей китайських компаній, зокрема DeepSeek і Z.ai, багато хто вважає надзвичайно конкурентними порівняно з провідними передовими системами від Anthropic та OpenAI, і вони набирають обертів серед компаній у США, оскільки витрати на ШІ зростають.

Зараз законодавці США розглядають, як стримати зростаюче впровадження китайських моделей ШІ домашніми компаніями, при цьому Держдепартамент заявив CNBC, що це викликає серйозні занепокоєння. За останні тижні Anthropic вів переговори з посадовцями після того, як адміністрація Трампа тимчасово ввела експортні обмеження щодо передової моделі. OpenAI також зіткнувся з обмеженнями: спочатку його попросили уряд США обмежити розгортання нової моделі.

Поширені запитання

Що запропонував Деміс Гассабіс у вівторок?

Деміс Гассабіс, CEO Google DeepMind, закликав США очолити орган зі стандартів, який наглядатиме за новими моделями ШІ та оцінюватиме національні ризики безпеки, зокрема кіберзагрози й біологічні загрози, у статті, опублікованій у соцмережі X у вівторок.

Як працюватиме запропонований орган зі стандартів для ШІ?

Запропонований орган планувалося б моделювати як державно-наглядовий державно-приватний партнерство, подібного до FINRA, з наглядовою радою, що включатиме незалежних технічних експертів і представників спільнот із відкритим кодом. Передові лабораторії спочатку добровільно передаватимуть моделі для огляду до 30 днів перед випуском, перш ніж вони стануть обов’язковими для розгортання на ринку США після демонстрації ефективності. Фінансування, імовірно, надходитиме від індустрії, щоб залучити технічні таланти й надати обчислювальні ресурси для масштабного тестування.