DeepMind、国際AI監督機構の設立を提案 モデル公開前に30日間審査

Google DeepMind のCEO デミス・ハサビスは7月に個人Substack上で枠組み宣言を発表し、成立の根拠を政府や企業の外に置かれた国際監督(監理)機構に求め、米国の金融業規制当局(FINRA)に倣う形で、最先端の閾値(しきい値)に達したすべてのAIモデルは公開前に最大30日間の強制審査を受けることを求めた。

ハサビス宣言の核心設計

ハサビスは、米国の金融業規制当局(FINRA)を参照枠組みとして選んだ。業界が拠出し、独立して運営され、米国証券取引委員会(SEC)の監督を受ける自主規制機関であり、金融機関のコンプライアンスを監査する役割を担い、さらに罰則や停止の執行権限も備える。彼は、この同じロジックをAIの規制にも適用しようとしている。つまり、産業が資金を出す一方で、意思決定権は、いかなる企業にも属さない独立した人々に委ねるのだ。

この監督(監理)機構の主要な設計仕様は以下のとおりである:

取締役会の構成:チューリング賞の水準にある独立技術専門家が過半数の席を占め、ほかに産業、政府、オープンソース・コミュニティの代表に割り当てる席がある

資金源:すべて、利益を上げるトップクラスのAI実験室が提供

審査対象:最先端の閾値に達したすべてのモデル。オープンソースでもクローズドでも、企業の本社所在地を問わない

審査期限:最大30日。閾値そのものは、モデルの能力の進化に合わせて定期的に更新される

拡張メカニズム:状況の重大度に応じて強度を上向きに調整でき、最も極端な場合には、各大手実験室と連携して研究開発のスピードを一緒に落とすことも可能

目標時程:ハサビスは、機構を最速で2026年末までに稼働させたいと考えている

提案の先行公開に至った引き金

ハサビスがこの枠組みを温めていたのはすでに数か月だが、実際に彼が前倒しで公表する決め手になったのは、Anthropicが2026年4月に数量限定でリリースしたMythosモデルだった。このモデルが登場すると、期待を大きく上回るネットワークのセキュリティに関する攻防能力が示され、業界や政策サークルでは「AIが駆動するネット犯罪の新時代」に対する懸念が巻き起こる。ハサビスはそれを直接、「警告(シグナル)」だと位置づけ、規制機関がゆっくり追いつくのを待つことはもうできないと示した。

ハサビスはインタビューでも、より長期的な生物安全のリスクに言及した。すなわち、AIモデルが病原体や生物兵器など、公衆衛生に害を与えるものの設計を支援する用途に使われる可能性である。彼は「現時点のモデルはそこまで強くはないが、いまの進展を外挿すれば、数年内にそうした事態が起こりうる」と述べた。

同時に、AnthropicとOpenAIはいずれも、トランプ政権の圧力の下で最新製品の大規模リリースを延期しており、それがEUと米国政府によるモデルへのアクセス権をめぐる協議につながった。複数のAI企業のCEOも、フランスのG7サミットの期間中に各国のリーダーと会い、協議を行っている。

アルトマン、マスク、アモディの表明

枠組みが公に発表される前に、ハサビスは私的に、ほぼすべての主要AI実験室へ草案を回し目を通させていた。そこにはAnthropicのCEO ダリオ・アモディ(Dario Amodei)も含まれる。公表後、OpenAIのCEO サム・アルトマン(Sam Altman)はこの構想について「とてもよく練られている」と称賛し、普段はアルトマンと対立していることも多いマスクもまた、これが「とても良い議論の出発点だ」と述べ、両者が珍しく同じ立場に立った。

アモディはそれより少し前に、米国で連邦航空局(FAA)に似た専任機関を設け、AIを規制するよう提案していた。アルトマンも同様の国際監督(監理)の提言をしていた。ハサビスはブルームバーグのインタビューで「これはDarioとSamがずっと前から出してきた考えと非常に整合している。違いは、抽象的な概念ではなく、具体的な案が必要だという点だ」と語った。

実装上の課題:米国の立法の空白、トランプ政権の揺れ、三者の監督ルートの相違

匿名のAI業界リーダーは、業界の合意だけでは足りず、真の難題は政治の層にあると指摘する。米国の連邦議会はこれまで、有意義な連邦AI立法を何一つ通していない。トランプ政権のAIへの姿勢は、放任と介入の間で揺れがある。さらに、米国、EU、中国の3者の規制ルートも、しばしばそれぞれ別々に進んでいる。

ハサビスは来週、ワシントンへ赴き、米国の政策立案者と直接会って協議する予定だ。彼は、現状の勢いがこの件を本当のゴールラインまで前進させるのに十分かもしれないという楽観的な見方を示したが、同時に次のようにも理解している。「これからやるべきは、実現に向けて本当に落とし込むことであって、ブログ記事を出すだけではない。」

よくある質問

ハサビスが提案するAI監督(監理)機構とFINRAの類似点は?

FINRAは、米国の証券業者が拠出し、独立して運営され、SECの監督を受ける自主規制機関であり、金融機関のコンプライアンスを監査するとともに、執行能力を備える。ハサビスの提案も同じロジックを採用している。つまり、利益を上げるAI実験室が資金を拠出し、独立した技術専門家が意思決定を主導し、いかなる政府や企業にも属さず、最先端のAIモデルについて公開前に強制審査を実施する、というものだ。

AnthropicのMythosモデルが、提案の引き金と見なされるのはなぜ?

AnthropicのMythosモデルは2026年4月に登場した後、期待を大きく上回るネットワークのセキュリティに関する攻防能力を示し、業界や政策サークルで「AIが駆動するネット犯罪」に対する懸念を引き起こした。ハサビスはこれを「警告(シグナル)」だと位置づけ、この出来事により、数か月かけて準備してきた監督(監理)枠組みを前倒しで公表する決断に至り、引き続き待つことはしないと示した。

このAIの国際監督(監理)機構はいつ稼働し得る?

ハサビスは、機構を最速で2026年末までに稼働させたい意向を示しているが、このタイムラインには重大な政治的障壁がある。米国の連邦議会はいまだ連邦AI立法を何も通していないこと、トランプ政権の立場が不安定なこと、そして米国・EU・中国の監督ルートにも相違があることだ。ハサビスの来週のワシントン訪問は、次の具体的な推進の節目であり、公式発表をもって確認する。

免責事項:本ページの情報には第三者提供の内容が含まれる場合があり、参考目的のみで提供されています。これらはGateの見解や意見を示すものではなく、金融、投資、または法律上の助言を構成するものでもありません。暗号資産取引には高いリスクが伴います。意思決定を行う際には、本ページの情報のみに依存しないでください。詳細については、免責事項をご確認ください。
コメント
0/400
コメントなし