トランプの「AI自己規制」は何を意味するのか？老黄「大勝利」、背後でAnthropic Amodeiを問い詰める

9月30日、トランプはホワイトハウス東館で20名以上のAI分野の幹部と昼食会を行った後、ホワイトハウスを出て記者に自主的な「AI協定」の発表を行った。

署名企業は６社：Anthropic、OpenAI、Google、Meta、xAI、NVIDIAだ。

トランプは、これを「ほとんど憲法のようなもの」と表現し、AIリスクへの「一つの防御手段」と述べた。しかし英国『フィナンシャル・タイムズ』によると、この2ページのドキュメントは東館で急いで起草され、スペルミスさえ含まれているという。

注目すべきは、表面的にはこれは法的拘束力のないAIセキュリティに関する2ページの文書である。しかし、協定の具体的要件、却下された代替案、そしてNVIDIAの最近の製品動向を見る限り、より重要なシグナルは次の通りである：ホワイトハウスと主要企業は「AIのペースを落とす」方針を選ばず、安全要件をAIインフラへの継続的投資に組み込みながら進めようとしている。

AIのテスト、監査、モニタリングなど「安全コンプライアンス」要件はより多くの計算力を必要とし、推論や光インターコネクトの新たな需要を生み出す可能性があり、NVIDIAが最大の利益を得るだろう。Jensen HuangはZuckerbergとともに強力規制を却下し、AnthropicのトップであるAmodeiに、なぜ公の場で過度にAIリスク発言をするのかを直接問い質した。

協定には何が書かれている？

協定原文によれば、6社の署名者は3つの核心的義務を履行する必要がある：

第一に、「多層コントロールと監査」メカニズムの構築。具体的には、堅牢な内部管理システムを導入し、先端モデルが生じるサイバーセキュリティおよびバイオセキュリティリスクを継続的に監視し、モデルが「予期せぬ形」で他のシステムに侵入しないよう保証することだ。

第二に、独立した外部監査機関と協力すること。署名者は第三者評価を積極的に受け、外部機関が内部管理措置の有効性を検証する。

第三に、取締役会レベルで独立した委員会を設置し、上記二つのメカニズムを監督する専任機関とする。

これら三つの義務は一つの共通の結果を目指す：すべてのモデル公開の際に、テスト、監視、外部検証の一連の手続きを完了しなければならない。

どれほど新しい内容があるのか？

実際のところ、それほど多くない。

報道によると、Anthropic、OpenAI、そしてGoogle DeepMindは既に先端モデルのリリース前に能力評価を実施しており、NVIDIA以外のすべての企業は2024年ソウルAIサミット後に類似の約束をしていた。メディアは「協定は以前、独立評価アクセスを開放していなかった署名者、とりわけNVIDIAに、外部監査要件の実施を迫る可能性がある。つまり、協定はトップラボには限定的影響しかないが、他の企業には新しい制約となる」と評価した。

LawAI米国法務政策ディレクターのMackenzie Arnoldの評価は直接的だ：「これは『感覚レベル』では最大の意義がある。拘束力ある基準を本当に作る権限をどこにも与えていない。」

協定自体にも法的効力はない。トランプ自身もこれを「道徳的拘束」と呼んでおり、それ自体が一種の認識である。

批判者はもっと厳しい。Tech Oversight ProjectのSacha Haworthは、「この協定はCEOたちが自分の宿題に自分で採点し、本当に意味あるAIセーフガードを回避している」と述べた。

一方、保守派の弁護士Joel Thayerは別の視点を示した。「公に『やる』と宣言していながら、実質的にはやらないというのは、消費者を欺く行為そのものだ。」また、FTC委員長のAndrew Fergusonが昼食会に出席していた点にも注目を寄せた。「これらのパブリックコミットメントは……まさにFTC執行の匂いがする。」

米国FTCは協定発表の翌日にはAI企業への調査範囲を拡大し、Anthropic、OpenAIなどが審査対象となった。

「安全性＝スローダウン」ではない：これこそJensen Huangの真の勝利だ

市場は「安全規制」に本能的に成長鈍化を織り込もうとする——論理的には、テスト拡大はリリースペースを鈍化させ、その結果、計算力ニーズも減るはずだからだ。

InvestorPlaceのアナリストLuke Langoはこの論理に反対している。ホワイトハウス協定は企業にモデル開発のペースダウンを求めてはいない、重点は内部評価・外部レビューとリスクマネジメントにある。

従って、産業チェーンのレベルでは「AIセーフティ」は全く異なる解釈も現れる：安全メカニズムは、必ずしも計算リソース投入を絞るものではなく、より多くのテスト・監視・モデル運用の必要性を意味するかもしれない。すべてのモデル公開ごとにテスト・監視・ピアレビューが必要なら、「安全コンプライアンス」自体が持続的な計算支出となる。抑制どころか恒常的な消費だ。

9月28日、NVIDIAは100社以上のパートナーとOpen Agent Safety Platformを発表した。これはオープンソースのアクセス制御と、独立したチップ上で稼働する監視レイヤを組み合わせるもの——後者はAIシステムに直接組み込まずに監視が可能という。Jensen Huangは「AIの可能性は安全性と能力が同時に解決されて初めて発揮される」と語った。

NVIDIAは光インターコネクト企業Lumentumに20億ドルの投資を約束し、データセンターの光学技術共同開発および生産能力強化に踏み切った。まさに「安全ストーリー」がハードウェア契約にそのまま変換された例だ。

Langoは、需要構造に明確な変動が生じていると指摘する：GPU中心の事前学習から、推論・評価・テスト段階シフトへの転換だ。後者はデータ転送効率とマルチタスク協調性に高く依存し、純粋な計算性能よりもそちらが重要視される。この変化が今後6〜12ヶ月間、需要の流れを主導すると予測している。

Langoは、自己規制はAIの資本支出サイクルを終わらせるものではなく、資金が流れる先を変えるだけだと指摘。すなわち事前学習向けのGPUから、推論・テスト・インターコネクトインフラへと変わる。Amodeiも「リスク管理の具体的なメカニズムはまだ議論中だ」と会談後に述べている。

Langoが注目する３つのベネフィット分野：

Marvell：データセンターネットワーキング接続に特化。

Arm：今年3月、自社開発初の量産型チップAGI CPUをリリース。最大136個のNeoverse V3コア搭載でTSMCの3nmプロセスによる製造。Armはx86プラットフォームの2倍以上と主張。

Lumentum：データセンターの光インターコネクトに特化。GPUの増加、チップ間の通信密度向上とともに、データセンターは銅線から光通信への転換を加速させている。

舞台裏の駆け引き：Jensen HuangがAmodeiに直接質問

カメラの前では、各社CEOがトランプの隣に並び、業界の結束した姿を見せていた。

しかし、その裏では正面衝突が繰り広げられていた。

『ウォール・ストリート・ジャーナル』が関係者の話から伝えるところによると、ランチ後のRoosevelt Roomの小規模な会議で、NVIDIA CEOJensen Huangを含む複数の経営幹部が、Anthropic CEO Dario Amodeiに対し：「なぜ公の場でAI能力やリスクについてこれほど過激な警告を発するのか？」と直接問い質した。

Amodeiの答えはこうだった：モデル能力を正直に公衆に知らせ、リスクを過小評価しないのが重要だ。

この対話は、幹部らがホワイトハウスのスタッフと一緒に合意原則をまとめるプロセスの中で行われた。

Amodeiはこれまでもホワイトハウスや競合他社が安全問題を軽視していると公然と批判し、AIモデルがサイバー攻撃や大規模失業をもたらす恐れがあると警告してきたため、ワシントンとシリコンバレーの両方で標的となっている。

その日のランチの場で、Amodeiが再び安全上の懸念を表明すると、Zuckerbergは「こうした課題への最良の解決策は、業界が一丸となって原則を現実に落とし込むことだ」と応えた。

ZuckerbergとJensen Huang：この一手の本当の仕掛け人

今回のホワイトハウス昼食会は偶然の産物ではない。

『ウォール・ストリート・ジャーナル』の関係者証言によれば、話の始まりは先週の晩餐会。Zuckerbergと下院議長Mike Johnsonが隣同士となり、AI政策について話題にした。その後、ZuckerbergとJensen Huangが各社のCEOとの調整を開始し、トランプとJohnsonが今回のランチを組織した。

Zuckerbergは協定成立のキーパーソンで、トランプや商務長官Howard Lutnick（AIテスト部門を管轄）とも頻繁にやりとりしていた。

そして彼とJensen Huangは、より重要なこと、すなわち従来の強力規制案を否決することも主導した。

今年夏、Anthropic、OpenAI、GoogleはFINRA（金融業規制機構）に似たAI自主規制組織案を共同で推進していた。しかし、Zuckerberg、Jensen Huang、Muskらはトランプに「これだとAI大手にあまりに多くの権力が集中してしまう」と伝え、この案は即座に放棄となった。

最終的に採択されたのは、より軽く、より柔軟な自主協定だった。

注目すべきは、却下されたFINRA型案も最終協定に似た内容（より強固な内部評価・外部テストメカニズム）を含んでいた点だ。二つの案は技術要件において高度な重複を見せていたが、真の違いは「誰がその仕組みを支配するか」。ZuckerbergとJensen Huangは「業界自身」という答えを選んだ。

Anthropicの現在地：関係修復とIPO準備の間で

Amodeiは当日、記者団に「業界と政府が協力すれば、私たちは安全に勝てる」と語り、トランプからは「素晴らしい」と賛辞を受けた。二人は日曜にホワイトハウスで初めて直接会って夕食も共にした。

ただし、Anthropicの置かれた状況は決して楽ではない。

報道によれば、同社はIPO準備を進めており、目標評価額は約2兆ドル。同時に、今年前半には政府と正面衝突が2件発生した：２つのモデルが安全性問題で2週間以上停止を余儀なくされ、AIの軍事利用を巡る論争で国防総省からブラックリスト入りした。

今回の協定の直接的な背景には、AnthropicのMythosなどのモデルリリース後、一連のAIサイバー攻撃が発生したことがある。