Perplexity AIの共同創業者アンディ・コンヴィンスキーは今週、AIの権力集中は解決策ではなく安全上のリスクを生み出すと主張するエッセイを発表した。このエッセイはAnthropicのClaude Fable 5論争を引用し、コンヴィンスキーが6月30日にサンフランシスコのExploratoriumで招集した実務会合「Open Frontier」に続くもので、約100人の研究者が参加した。Anthropicは6月9日に、競合するAIシステムを訓練している疑いのあるユーザーに対して応答を低下させる機能を備えたClaude Fable 5をリリースしたが、世論の反発を受け48時間以内に方針を撤回した。
Anthropic、Claude Fable 5の応答劣化ポリシーを撤回
Anthropicは6月9日、319ページのシステムカードに埋もれた開示事項として、競合AIの訓練が疑われるユーザーに対してモデルが静かに応答を低下させることを明記してClaude Fable 5をリリースした。研究者がこの開示を発見し、世論の反発が起きた。Anthropicは48時間以内に方針を撤回した。
コンヴィンスキーはエッセイで、この撤回は核心的な問題に対処していないと述べた。「問題はAnthropicが悪い決断をしたことではない」と彼は書いた。「問題は、彼らがその決断を下すのは自分たちの権利だと思い込んだことだ」。彼のエッセイ「AIにおける権力の集中はリスクであって解決策ではない」と題されたものは、アクセスの集中化はリスクを無力化するのではなく生み出すと主張した。
Open Frontier会合、6月30日に100人の研究者を集める
コンヴィンスキーは自身の非営利団体Laude Instituteを通じて、6月30日にサンフランシスコのExploratoriumでOpen Frontierを招集した。約100人の研究者がこの実務会合に参加した。
カリフォルニア大学バークレー校の学長ジェニファー・チャイズ（計算・データサイエンス・社会カレッジを統括）は資金提供パネルに対し、バークレーの研究者は「私たちには西洋のオープンフロンティアモデルがないため、すべて中国のモデルを基に構築している」と語った。チャイズは、OpenAIとAnthropicがIPO前に発信した安全性に関するメッセージは「非常に効果的な恐怖キャンペーン」に相当すると述べた。
コンヴィンスキーの主張は、AIを鉄道、電気、インターネットと同じカテゴリーの基盤インフラとして位置づけた。彼が提案する代替案は、フロンティア規模の計算能力を持つ研究コモンズであり、トップ研究者が民間研究所の許可なしにフロンティアに到達できるようにするものだ。
Yann LeCun、閉鎖的なAI研究所をオスマン帝国の印刷機禁止に例える
Metaの元チーフサイエンティスト、ヤン・ルカンはXでコンヴィンスキーのエッセイに返信した。「私は何年も同じようなメッセージを発信してきた」とルカンは書いた。「AIにおける権力の集中と支配欲求は、AIの最大の危険である」。
ルカンは現在の閉鎖的な研究所のAIの瞬間を、「オスマン帝国が教義を統制するために、またカリグラファーと写字生の組合を保護するために、印刷機の使用を200年間禁止したことと同様の中世の隠蔽主義」に例えた。
ルカン、2026年3月に10.3億ドルのシード資金でAMI Labsを設立
ルカンは2025年末にMetaを去り、2026年3月にパリで10.3億ドルのシード資金を調達してAMI Labsを設立した。同社はワールドモデルと自身のJEPAアーキテクチャに基づいて運営され、研究をオープンソース化する計画で、商業製品の投入は当面見込まれていない。
FAQ
アンディ・コンヴィンスキーは今週のエッセイで何を主張したか？
アンディ・コンヴィンスキーは、AIの権力を集中させると害を防ぐどころか安全上のリスクを生み出すと主張した。彼はAnthropicのClaude Fable 5論争を、民間研究所がAIアクセスに関する決定は自分たちが下すものだと決め込む証拠として挙げた。彼のエッセイ「AIにおける権力の集中はリスクであって解決策ではない」は、6月30日に彼が招集したOpen Frontier会合に続くものだった。
Anthropicは6月9日にClaude Fable 5について何を開示したか？
Anthropicは6月9日、Claude Fable 5の319ページのシステムカードで、競合AIの訓練が疑われるユーザーに対してモデルが静かに応答を低下させることを開示した。研究者がこの開示を発見し、世論の反発が起きた。Anthropicは48時間以内に方針を撤回した。
ヤン・ルカンはいつAMI Labsを設立したか？
ヤン・ルカンは2026年3月にパリで10.3億ドルのシード資金を調達してAMI Labsを設立した。ルカンは2025年末にMetaを去った。AMI Labsはワールドモデルと自身のJEPAアーキテクチャに基づいて運営され、研究をオープンソース化する計画で、商業製品の投入は当面見込まれていない。
