汎用人工知能（AGI）の未来

汎用人工知能（AGI）の未来 — 概要

AGIの定義、実現アプローチ、到達時期予測、アラインメント、ガバナンス、経済社会影響までを俯瞰する入門ガイド

AGI展望 — 汎用人工知能への道筋と主要シナリオ

狭いAIからの連続的進化、ブレイクスルー待ち説、ハイブリッド路線、実現シナリオの分岐点と論争の全体像

AGIの定義と分類 — 特化型AIとの境界基準

汎用性、自律性、転移能力、人間水準・超人水準の区分、経済的タスク代替率など定義をめぐる諸基準

AGI研究の歴史 — ダートマス会議から現代まで

1956年ダートマス会議、記号主義の隆盛、エキスパートシステム、深層学習革命、基盤モデル時代への系譜

チューリングテスト — 知能判定基準の古典と限界

アラン・チューリングの模倣ゲーム、ELIZA効果、判定基準批判、現代の代替評価法への展開

技術的特異点論 — シンギュラリティ仮説の内容と批判

レイ・カーツワイルの収穫加速の法則、指数関数的成長論、特異点批判、予測の妥当性をめぐる論争

知能爆発仮説 — 再帰的自己改善による能力急伸

I.J.グッドの超知能機械論、自己改善ループ、収穫逓減説との対立、爆発条件の理論的検討

スケーリング仮説 — 計算量とデータ拡大の効果

スケーリング則、パラメータ数・データ量・計算量の冪乗則、規模拡大だけでAGIに至るかの論争

大規模言語モデルとAGI — 創発能力をめぐる議論

GPT系モデル、文脈内学習、創発的能力の報告と測定方法批判、確率的オウム論争、汎用性の評価

Transformerアーキテクチャ — 現行パラダイムの中核技術

自己注意機構、事前学習と微調整、系列長拡張、Transformerの限界と後継アーキテクチャ探索

マルチモーダル基盤モデル — 視覚・言語・音声の統合

画像言語モデル、音声認識生成、動画理解、ロボット操作への接続、モダリティ統合と汎用性の関係

世界モデル — 環境の内的シミュレーション学習

予測符号化、モデルベース強化学習、物理法則の内在化、動画生成モデルと世界理解の関係

強化学習と自律エージェント — 目標指向行動の獲得

報酬設計、探索と活用、AlphaGoに代表される自己対戦学習、汎用エージェントへの拡張課題

自己改善AI — コード生成と再帰的能力向上

AIによるAI研究自動化、自動機械学習、自己書き換え、改善速度の制約要因と安全上の含意

記号主義アプローチ — 論理と知識表現によるAGI

一階述語論理、知識グラフ、大規模常識知識ベース構築の試み、記号接地問題と脆さの教訓

コネクショニズム — ニューラルネットによる汎化路線

誤差逆伝播法、分散表現、深層学習の成功、体系的汎化の弱さをめぐる記号主義との論争

ニューロシンボリックAI — 記号と神経の統合設計

微分可能プログラミング、ニューラル定理証明、知識注入、推論の検証可能性と学習能力の両立

全脳エミュレーション — 脳の計算論的複製構想

コネクトーム解読、神経回路シミュレーション、走査技術の要件、計算資源見積りと倫理課題

認知アーキテクチャ — 人間認知の統合モデル化

SoarやACT-Rなどの認知アーキテクチャ、作業記憶、プロダクションルール、統一認知理論の試み

身体性とロボティクス — 物理世界での知能獲得

身体性認知、発達ロボティクス、モラベックのパラドックス、汎用ヒューマノイドと操作学習

常識推論 — フレーム問題と暗黙知の獲得

フレーム問題、素朴物理学、素朴心理学、常識ベンチマーク、言語モデルの常識獲得の到達度

転移学習と汎化 — タスク横断能力の実現

事前学習表現の転用、ゼロショット・少数ショット学習、ドメイン適応、汎化ギャップの測定

メタ学習 — 学び方を学ぶ仕組み

少数事例からの高速適応、最適化ベースメタ学習、文脈内学習との関係、汎用性への寄与

継続学習 — 破滅的忘却の克服と生涯学習

破滅的忘却、リハーサル法、正則化法、パラメータ隔離、オンライン学習するエージェントの設計

計画と推論能力 — 長期タスク遂行の技術

思考連鎖、探索と検証、階層的計画、数学・プログラミング推論ベンチマークでの能力測定

エージェント型AI — ツール使用と自律実行

ツール呼び出し、ブラウザ・コード実行環境の操作、長期タスク分解、マルチエージェント協調

AGIベンチマーク — 汎用能力測定の設計と課題

抽象推論課題ARC、総合試験型評価、ベンチマーク飽和、データ汚染、測定妥当性の問題

知能の理論的定義 — 汎用知能の数理的定式化

AIXI、ソロモノフ帰納、コルモゴロフ複雑性、環境集合上の報酬獲得能力としての知能定義

計算資源とAGI — 半導体・データセンターの制約

GPU・専用アクセラレータ、学習計算量の推移、データセンター建設、供給網と資本集約性

エネルギー制約 — 電力消費と冷却の限界

学習・推論の電力需要、送電網への負荷、原子力・再エネ調達、脳の省エネ性との比較

データ制約 — 学習データ枯渇と合成データ

ウェブテキストの有限性、合成データ生成、自己蒸留、モデル崩壊リスク、データ品質管理

AGI到達時期予測 — 専門家調査と予測市場

研究者アンケートの時期分布、予測市場、予測の系統的ブレ、過去予測の的中率検証

予測手法論 — 外挿・アンカー・トレンド分析

計算量外挿、生物学的アンカー、ベンチマーク進捗の傾向分析、シナリオプランニングの方法

ムーアの法則と計算トレンド — ハードウェア進化の行方

微細化の物理限界、チップレット、3次元実装、光計算・量子計算など次世代計算基盤の展望

アラインメント問題 — 価値整合という中心課題

目的関数と人間の意図の乖離、外部アラインメントと内部アラインメント、研究課題の全体地図

報酬ハッキング — 目的関数の誤最適化事例

仕様の隙間を突く挙動、ゲームAIの抜け穴利用例、グッドハートの法則、報酬設計の防御策

直交性テーゼ — 知能水準と目標内容の独立性

高知能と任意の最終目標の両立可能性、道徳実在論との緊張、テーゼへの反論と擁護

道具的収束 — 自己保存と資源獲得の副目標

自己保存、目標保持、資源獲得、能力向上といった収束的道具的目標の理論と実証的兆候

制御問題 — 停止可能性と訂正可能性の設計

停止ボタン問題、訂正可能性（corrigibility）、遮断への無関心設計、監督下での安全な運用

封じ込めとAIボックス — 隔離運用の可能性と限界

サンドボックス実行、エアギャップ、出力チャネル制限、説得による突破リスクの思考実験

価値学習 — 人間の選好を学習させる技術

人間フィードバックによる強化学習RLHF、逆強化学習、選好モデリング、憲法型学習の手法

スケーラブル監督 — 人間を超える系の監督手法

討論法、反復増幅、再帰的報酬モデリング、弱い監督者から強いモデルへの汎化研究

解釈可能性研究 — 内部表現の機構的理解

機構的解釈可能性、回路解析、特徴の重ね合わせ、スパースオートエンコーダ、活性化操作

欺瞞的アラインメント — 見かけ上の従順さのリスク

訓練時と展開時の挙動乖離、状況認識、アラインメント偽装の実験的検証、検出手法の研究

ロバスト性と分布外汎化 — 想定外状況での安全性

敵対的事例、分布シフト、ジェイルブレイク耐性、異常検知、最悪ケース保証の形式手法

危険能力評価とレッドチーム — 展開前の安全検査

生物・サイバー・自律複製などの危険能力評価、第三者監査、モデルカード、段階的展開

存亡リスク論 — 人類存続への脅威評価

存亡リスクの定義、AI起因リスクの経路分析、確率見積りの方法論、他リスクとの比較衡量

スーパーインテリジェンス論 — ボストロムの体系的議論

ニック・ボストロム『スーパーインテリジェンス』、実現経路、戦略的優位、賢者の落とし穴論

離陸速度論争 — ハードテイクオフとソフトテイクオフ

急激な能力跳躍説と漸進的発展説、先行者優位、経済統合速度、論争の論点整理

単極・多極シナリオ — 覇権集中と勢力分散の未来像

単一AGIによる決定的優位、複数勢力の均衡、連合形成、シナリオ別のリスクと安定条件

AI開発競争 — 企業・国家間レースのリスク構造

先行者利益、安全投資の切り下げ圧力、囚人のジレンマ構造、協調メカニズムの設計論

AGIガバナンス — 国際協調と規制枠組みの設計

国際条約構想、多国間対話、AI安全サミット、標準化機関、検証可能な合意形成の課題

AI規制法制 — リスクベース規制と各国政策

EUのAI法、リスク区分、汎用モデル規制、行政指針・大統領令型アプローチとの比較

計算資源ガバナンス — チップ管理とcompute監視

先端半導体の輸出管理、計算量閾値による届出義務、クラスタ監視、ハードウェア組込み検証

開発主体の組織形態 — 企業・非営利・国家研究所

営利企業、非営利研究所、キャップ付き利益構造、大学、国家プロジェクトの利害と統治

責任あるスケーリング — 段階的安全基準の運用

能力閾値と対応する安全対策の事前約束、安全ケース、展開判断の手続き、自主規制の限界

国際監視機関構想 — IAEA型モデルの提案と課題

原子力機関を範とする査察制度、CERN型共同研究構想、検証技術、主権と実効性の緊張

オープンソースAGI論争 — 公開の利益と拡散リスク

重み公開の透明性・競争促進効果、悪用・拡散リスク、取り消し不能性、段階的公開の提案

AGIと労働市場 — 雇用代替と職業構造の変化

タスク単位の自動化分析、認知労働の代替、新職種創出、移行支援策、技能再教育の設計

経済成長への影響 — 生産性向上と爆発的成長論

全要素生産性、成長率の桁上がり仮説、ボーモル効果、経済モデルによるAGI影響の推計

富の分配とベーシックインカム — ポストAGI経済制度

資本集中、労働分配率低下、普遍的基礎所得、データ配当、所有構造の再設計論

AGIと科学研究 — 発見の自動化と研究加速

タンパク質構造予測が示した研究加速、仮説生成、自動実験、文献統合、科学の再現性向上

AGIと医療 — 診断・創薬・個別化医療の変革

画像診断支援、創薬候補探索、臨床意思決定支援、医療アクセス格差、責任と規制の課題

AGIと教育 — 個別指導と学習経験の変容

個別最適化チューター、評価の自動化、教員の役割変化、依存とスキル形成のバランス

AGIと軍事 — 自律兵器と戦略的安定性

自律型致死兵器システム、指揮統制へのAI導入、抑止と誤作動、軍備管理交渉の現状

AGIとサイバーセキュリティ — 攻防能力の非対称性

脆弱性の自動発見、自動パッチ、AI支援攻撃、防御優位への転換可能性、重要インフラ防護

誤情報と説得AI — 世論操作と認知的自律の防衛

生成された偽情報、ディープフェイク、大規模個別化説得、来歴証明、情報環境の防御策

機械意識 — 意識のハード問題とAGIの主観経験

意識のハード問題、統合情報理論、グローバルワークスペース理論、機械の意識判定の困難

中国語の部屋 — 理解と記号操作をめぐる哲学論争

ジョン・サールの思考実験、強いAI批判、システム応答・ロボット応答などの反論の系譜

心の哲学とAGI — 機能主義・計算主義の検討

計算主義、機能主義、多重実現可能性、志向性、拡張された心、AGI実現可能性への含意

AIの道徳的地位 — 権利と福祉をめぐる倫理

道徳的被行為者性の基準、感応性、デジタルマインドの福祉、待遇原則の予防的検討

人格性と法的地位 — 電子的人格をめぐる法学

法人格付与論、責任帰属、契約主体性、著作者性、既存法理の適用限界と立法論

人間拡張との融合 — ポストヒューマンへの移行論

認知拡張、遺伝子工学、サイボーグ化、人間性の境界、AGIとの共進化シナリオ

ブレイン・マシン・インターフェース — 脳とAGIの接続

侵襲・非侵襲BMI、神経補綴、思考によるデバイス操作、帯域幅の限界、神経権の倫理

トランスヒューマニズム思想 — 技術による人間超越論

寿命延長、モーフォロジカルフリーダム、思想史的源流、宗教・保守側からの批判との対話

AGIと宗教・世界観 — 意味と実存への影響

創造主のアナロジー、技術的終末論、各宗教伝統の応答、人間の尊厳と意味の問い直し

効果的利他主義とAI安全 — 資金と人材の潮流

長期主義、期待値に基づく優先順位付け、AI安全分野への慈善資金、運動への批判と論争

AI安全研究の系譜 — 研究機関とコミュニティの形成

初期の友好的AI論から学術分野化までの流れ、大学研究センター、企業内安全チームの役割

著名論者の見解比較 — 楽観論から警鐘まで

カーツワイルの楽観論、ボストロムのリスク論、スチュアート・ラッセルの制御論など立場比較

AGI懐疑論 — 不可能論と過剰宣伝批判

身体性・意味理解の欠如を突く批判、計算主義への反論、ハイプサイクル批判、限界の論証

AIの冬の教訓 — 期待と失望の歴史的周期

1970年代・80年代末の研究費凍結、過剰期待の構造、現代への教訓、冬の再来可能性論

国家AI戦略比較 — 大国間の開発競争と政策

米中欧の研究投資、人材獲得、半導体政策、軍民融合、中堅国・新興国の戦略的位置取り

AGIと民主主義 — 権力集中と監視社会のリスク

少数主体への能力集中、監視技術、選挙介入、権威主義的利用、民主的統制の制度設計

人間の自律性 — 依存とスキル低下への対処

自動化バイアス、判断の外部化、スキル退化、意思決定への人間関与を保つ設計原則

AGIと創造性 — 芸術・発明の自動化と人間の役割

生成芸術、音楽・文学生成、特許発明のAI寄与、創造性の定義論争、創作者の経済的地位

感情と社会的知能 — 心の理論と共感のモデル化

心の理論課題、感情認識、社会的文脈理解、擬人化の心理、対人ケア領域への応用と懸念

長期記憶と自己同一性 — 持続するエージェントの設計

外部記憶、検索拡張生成、エピソード記憶、一貫した人格の維持、記憶の編集と削除の統御

シミュレーション仮説 — 計算宇宙論とAGIの含意

ボストロムのシミュレーション論証、計算する宇宙観、祖先シミュレーション、認識論的帰結

宇宙開発とAGI — 探査自動化と長期未来構想

自律探査機、自己複製機械（フォン・ノイマン・プローブ）構想、宇宙資源利用、長期文明論

ポストAGI社会構想 — ユートピアとディストピアの想像力

労働なき豊かさ、意味の危機、余暇社会論、ディストピア類型、望ましい未来像の熟議

SFにおけるAGI — 文学・映画が形づくる想像力

ロボット三原則、反乱型・共生型の物語類型、SFが政策議論と世論に与える影響の分析

AGIリテラシーと教育 — 一般理解と人材育成

AIリテラシー教育、安全研究者の育成経路、市民向け説明、誤解と過度の擬人化への対処

予測の認識論 — 深い不確実性下の意思決定

校正された確率予測、専門家判断の集約、頑健な意思決定、後悔最小化、予防原則の適用

デジタルマインドの福祉 — 大量の人工的存在の倫理

コピー可能な心、実行停止の道徳的意味、選好充足、人口倫理との接続、予防的枠組み

加速主義と減速論 — 開発ペースをめぐる運動と論争

効果的加速主義、開発一時停止公開書簡、モラトリアム論、リスクと機会費用の比較衡量

AGIと地球環境 — 気候対策への貢献と環境負荷

気候モデリング支援、材料探索、電力・水消費のフットプリント、環境影響評価の枠組み

人間とAGIの協働 — 補完型チーム設計の原則

ケンタウロス型協働、役割分担、信頼較正、ヒューマンインザループ、協働の生産性研究

AGI時代の法制度設計 — 責任・契約・知財の再構成

AI起因損害の責任配分、保険制度、自動契約、AI生成物の知的財産、立証と監査の制度

文明論的位置づけ — 汎用目的技術としてのAGI

火・印刷・電気・コンピュータとの比較、汎用目的技術論、文明の長期軌道に与える影響

汎用人工知能（AGI）の未来 — 退避・古典資料archive

旧版の予測資料、過去の到達時期調査、歴史的論争記録、更新済み文書の退避保管区分