AI Futures Project が提唱する
AI2040 とは？
人工知能（AI）の進化は目覚ましい一方で、急速な発展がもたらす潜在的なリスクへの懸念も日々高まっています。生成AIが文章や画像を生成し、科学的発見を加速し、医療や教育の現場に浸透する中で、私たちは「次のフェーズ」を見据えなければなりません。それが「人間が作った最も賢い知性」を超えるAI、超知能AI（Superintelligence）の出現です。
現在、AIの最前線ではモデルが自らの改良を積み重ねる「自己改良ループ」の研究が進んでおり、Anthropicは2026年6月8日の公開声明で「私たちは、人類の共有する未来を脅かしうる超知能への暴走的な競争に近づいている」と警鐘を鳴らしました。これは、AI開発の当事者が初めて公式にリスクを認めた瞬間として世界に衝撃を与えました。
このような緊迫した状況の中で、元OpenAI研究者のダニエル・ココタイロが率いる非営利研究機関「AI Futures Project」は2026年7月9日、約90ページに及ぶ報告書「AI2040：Plan A」を公開しました。これは2025年に発表した「AI 2027」の続編にあたり、超知能の出現による壊滅的シナリオを回避するための「ポジティブな設計図」として世界中の政策立案者から注目されています。
そこで本記事では、「AI Futures Project」が発表した重要なシナリオ「AI2040：Plan A」について、その内容と意義を詳しく解説します。
AI Futures Projectとは
AI Futures Projectは、2025年に元OpenAIの研究者であるダニエル・ココタイロによって設立された非営利の研究機関です。カリフォルニア州バークレーを拠点に高度なAIの発展と社会への影響を予測することに特化しています。ココタイロは、OpenAIがAIの安全性よりも製品開発を優先していることに懸念を抱き、独立した予測と政策研究を行うためにこの組織を立ち上げました。
ココタイロは、AIが人類に与える影響を「気象予報士が台風の進路を読むように、シナリオとして予測可能であるべきだ」という信念を持っています。「世界で最も精度の高いAI予測者の1人」とも称されており、AI 2027のシナリオは主要なAI研究者や政策立案者の議論の枠組みとして定着しました。
AI Futures Projectの使命は、AIシステムの軌道に関する詳細なシナリオ予測を策定し、政策立案者、研究者、一般市民に情報を提供することです。これまでにAIの潜在的な短期的な出現と世界的な影響を調査した「AI 2027」などの報告書を発表しています。
AI2040：Plan Aの全体像
「AI2040：Plan A」は、2026年7月9日にAI Futures Projectによって発表されたAI2027に続く報告書です。超知能AIの出現による壊滅的な結果を回避し、人類が豊かな未来を築くための「ポジティブなビジョン」として提示されています。
【提言①】超知能開発の遅延
最も中心になる提言は、人類が超知能の開発を2040年まで意図的に遅らせることです。AI 2027では「デフォルトで2027年にも知能爆発が起きうる」とされていました。Plan Aはこれを15年後ろ倒しし、私たち人間が「制御可能な超知能」と「制御不能な超知能」の違いを慎重に見極められる時間を作ることを目指します。
推奨されているのは、単に開発停止ではなく「意図的な遅延」です。これは、15年という時間を「人類最後の準備期間」として使い、AIの安全性研究、社会的合意形成、国際的なルール整備を優先的に進めるために捻出することを意味します。
【提言②】AI研究の透明化
2つ目の柱は、AI研究における完全な透明性の確保です。すべてのAI研究を公開し、世界中の数十の最先端企業がフロンティアモデルに追いつけるようにする。特定の1社や1国に技術が集中することを防ぎます。
背景にあるのは、少数のテック企業が超知能AIの開発を独占してしまうことへの強い懸念です。Google、OpenAI、Anthropicなどがそれぞれ秘密裏に開発を進めれば、「最初に超知能に到達する」という野心だけが競争を加速させてしまいます。透明化の目的は、この構造を解体し、民主的な監視下に置くことにあるのです。
【提言③】相互確証破壊（MAD）体制の意図的な導入
3つ目の柱は、核戦略における「相互確証破壊（Mutually Assured Destruction：MAD）」をAI開発競争に意図的に応用するという極めて大胆な提案です。
各国のAI研究機関が互いの進捗を厳格に監視できる体制を整え、一方が秘密裏に超知能開発を進めれば、もう一方も対抗措置を取れる状況を作ります。どこの国も「先に作る」インセンティブを失い、結果として全員がゆっくりと進むことを選択する。これは冷戦期の核軍拡競争を停止させたMADの論理と同じ構造です。
米シンクタンクRAND Corporationや国家安全保障専門家の間では、これを一段進めた「Mutual Assured AI Malfunction（MAIM：相互確証AI機能不全）」という概念も真剣に議論されています。核兵器のボタン1つで地球が終わるように、AI競争も「先に壊す」という選択肢を持つことで安定を図るという考え方です。
【AI2027から2040へ】なぜ15年後ろ倒しにされたのか
AI 2027の発表当時、報告書は「2027年までにAIがAI研究開発を完全に自動化し、超知能への道が自動的に開く」と警告していました。「たった3年後」と衝撃を受けた方も多かったはずです。
しかし、Plan Aではそのデフォルト予測を2030年に変更し、ガバナンスの適切な行動があれば、人間を超えるAIの登場は2040年にまで延びるとしています。
なぜ15年も後ろ倒しになったのか。
報告書はその理由を「人間は超知能の出現期に何度も立ち会うべきではなく、1度だけ立ち会うべきである」と説明しています。1度限りの出来事だからこそ、社会は慎重に準備できる時間が必要なのです。
このロジックは、現代の医療倫理における「ラスト・チャンス問題」に似ています。臓器移植や遺伝子治療のように、後戻りのできない医療行為の前に十分な準備期間を設けるのと同じ発想が、AIにも適用されようとしているのです。
Plan Aが描く5段階のタイムライン
AI Futures Projectは、「AI 2027」というシナリオを発表しており、AIが2027年までに超知能を自動化し、知能爆発が起こると予測していました。しかし、「AI2040：Plan A」ではデフォルトのタイムラインが2030年に変更され、ガバナンスの行動によって一般的に人間を超えるAIが登場するのは2040年とされています。
報告書は5段階のタイムラインを提示しています。
- 2029年：米国と中国が無謀な超知能開発競争を避けることに合意。戦略的安定性が確保されます。冷戦期の核兵器管理条約（SALT、STARTなど）の締結に似たプロセスが、AI領域でも再現されることが期待されています。
- 2030年：デフォルトではAI研究開発が完全に自動化されて超知能に至る可能性があるとされます。しかし、米中合意により、そのシナリオは政治的に回避されます。
- 2030年〜2035年：人間の能力範囲内でAIを慎重にスケールアップし、トップレベルの専門医・科学者・プログラマーと同等のAIを開発します。「人間レベルAI」とも呼ばれるこの段階では、AIは人間の監督下で動作し、暴走のリスクは構造的に抑えられます。
- 2035年：人間による制御を維持するため、トップレベルの人間専門家レベルのAIで一旦停止。AI研究は継続しつつも超知能への自動的な連鎖反応を社会が議論するための時間を確保します。
- 2040年：人間が安全策を完全に検証した上で、一旦停止を解除し、超知能へと慎重にスケールアップします。
重要なのは、このタイムラインはあくまで「推奨シナリオ」だということです。本記事執筆時点（2026年8月6日）で、米中合意はまだ実現しておらず、各企業は依然として独自に開発を続けています。私たちが今何をすべきかで、未来は大きく変わります。
Plan Aの重要性
AI2040：Plan Aの重要性は、「AI企業は超知能AIの制御問題を解決できる」という根拠のない楽観論に対して、慎重で協調的なアプローチを現実的に提示した点にあります。
2026年6月8日、Anthropicは公開声明を発表し、「私たちは、人類の共有する未来を脅かしうる超知能への暴走的な競争に近づいている」と世界に警鐘を鳴らしました。
2026年7月には、AnthropicがOpenAIを「逆連邦主義（reverse federalism）」と批判し、州ごとにAI規制を強化する戦略を打ち出すなど、企業間でもガバナンスの主導権を巡る駆け引きが本格化しています。
2026年8月3日には、ホワイトハウスでOpenAI、Google、Anthropicのトップとトランプ政権のAI政策担当者が一堂に会し、AI安全性の自主検査の枠組みについて協議が行われました。Plan Aは、こうした実際の政策協議の中で参照される「シナリオ精査に耐える提案」として機能することが期待されています。
報告書は、超知能AIが少数の企業や個人に権力を集中させる可能性を繰り返し指摘しています。このような「権力の集中」を避けるためには、国際的な協力と研究の透明性が不可欠であるというのが、Plan Aが訴えかける中核メッセージです。
【現実の壁】課題と批判
野心的な提言には厳しい批判も存在し、Plan Aの現実性を冷静に検証する必要があります。
国際的な合意形成の現実性
米中がAI開発競争で協調できるかどうかという疑問です。
米中貿易摩擦、台湾問題、半導体覇権争いなど、二国間の対立構造は2026年現在も深刻です。核兵器と違い、AI開発は中小企業や研究機関レベルでも進められるため、合意の抜け穴を作りやすいとの指摘もあります。
研究の完全な透明性の現実性
研究の完全公開は企業秘密や安全保障上の機密と直接対立します。
OpenAI、Anthropic、Google DeepMindは、モデルの重みや訓練データの詳細を非公開にしています。これらをすべて公開すれば競争優位が崩壊し、安全保障上の懸念も生じるため、業界の抵抗は根強いと予想されます。
開発を完全に停止することの現実性
超知能開発を本当に一時停止できるかどうかという根本的な問いがあります。
仮に米国が止まっても、中国や他の国が止まる保証はありません。一方がレースをやめれば、他方が一方的に勝利する。「底辺への競争（Race to the Bottom）」の力学であり、ゲーム理論的に合意が極めて不安定であることを示しています。
AI Futures Projectはこれらの批判を認識しつつも、現状のAI開発の軌道が持つ危険性を鑑みれば、「大胆すぎる」と批判されることすら織り込み済みだと主張しています。完璧な計画でなくても、今すぐ動き出すこと自体が価値がある。
AIの未来に向けて
「AI2040：Plan A」は、AIの未来に対する重要な警鐘であり、同時に希望の光でもあります。
超知能AIの出現が避けられない未来であれば、私たちはリスクを最小限に抑え、人類にとって有益な形でAIを活用するための戦略を真剣に検討する必要があります。
私たちに何ができるでしょうか。
個人的に高度なAI開発を直接止めることはできませんが、次のような行動は確実に存在します。
- AIの安全性に関する信頼できる1次情報源をフォローする
- 政策議論に対するパブリックコメントや意見提出を行う
- 透明性を求める声をSNSやメディアで発信する
- 自分の仕事で使うAIの動作原理を理解し、盲目的に依存しない
2026年8月時点で、ホワイトハウスや各国議会はAI規制の枠組みを協議しており、私たちの声が届く窓口は確実に広がっています。私たちの声が、未来のタイムラインを1年前倒ししたり、1年後ろ倒ししたりする可能性すらあるのです。
AI Futures Projectの提言は、具体的な議論の出発点となるでしょう。この計画が実現するかは未知数ですが、AIの未来を形作る上で、その理念と方向性は私たち全員にとって重要です。
超知能AIは、私たちの世代が向き合うべき最大のテーマの1つです。
今ならまだ間に合います。
未来は「起こる」ものではなく、私たち人間が「選ぶ」もの。
その選択を、今日ここから始めましょう。
関連記事
閲覧ありがとうございました。
＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊
中年独身男のお役立ち情報局
Friends-Accept by 尾河吉満
＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊
