汎用人工知能（AGI）理論

汎用人工知能（AGI）理論 — 概要

人間水準の汎用知能を目指す理論体系の入門。定義、知能の測定、認知アーキテクチャ、アラインメント、超知能論までを概観する。

AGIの定義 — 汎用性・自律性・人間水準の規定

狭いAIとの対比、タスク横断の汎化能力、自律的目標達成、人間水準・超人間水準の区分、定義をめぐる論争。

チューリングテスト — 模倣ゲームによる知能判定

チューリングの1950年論文、模倣ゲーム、ローブナー賞、ELIZA効果、テストの限界と代替案の議論。

中国語の部屋 — サールの強いAI批判

ジョン・サールの思考実験、統語論と意味論の区別、システム応答・ロボット応答などの反論、理解と計算の関係。

物理記号システム仮説 — ニューウェルとサイモン

記号操作こそ知能の必要十分条件とする仮説、Logic Theorist、GPS（汎用問題解決器）、ヒューリスティック探索。

認知アーキテクチャ — Soarの統一認知理論

ニューウェルの統一認知理論、プロダクションルール、チャンキング、問題空間、長期記憶と作業記憶の統合設計。

ACT-R — アンダーソンの適応的思考制御

宣言的記憶と手続き的記憶のモジュール構成、活性化理論、認知課題の反応時間予測、人間認知のシミュレーション。

AIXI — ハッターの普遍人工知能モデル

ソロモノフ帰納と逐次決定理論の結合、期待報酬最大化、計算不可能性、AIXItlなど近似モデルの研究。

ソロモノフ帰納 — 普遍事前確率と予測理論

アルゴリズム的確率、普遍事前分布、オッカムの剃刀の形式化、予測誤差の収束定理、帰納推論の理論的基礎。

コルモゴロフ複雑性 — 記述長と知能の圧縮観

最短プログラム長による情報量定義、最小記述長原理（MDL）、圧縮と汎化の等価性、Hutter Prizeの圧縮チャレンジ。

ゲーデルマシン — 自己参照的な最適自己改善

シュミットフーバーの提案、自己のコードを証明付きで書き換える枠組み、証明探索、理論上の最適性と実装課題。

普遍知能尺度 — レッグとハッターの定式化

環境の集合にわたる報酬獲得能力の重み付き総和として知能を定義、コルモゴロフ複雑性による重み、形式的知能測定。

知能爆発 — I.J.グッドの超知能機械論

1965年の「最初の超知能機械」論、自己改善の連鎖による能力急伸、ハードテイクオフとソフトテイクオフの区分。

技術的特異点 — ヴィンジとカーツワイルの予測論

ヴィンジの1993年論文、カーツワイルの収穫加速の法則、予測不能点としての特異点、批判と懐疑論。

再帰的自己改善 — 自己書き換えによる能力向上

シードAI概念、自己改善ループの安定性、能力向上の逓減・逓増条件、ソフトウェア・ハードウェア両面の制約。

直交仮説 — 知能と目標の独立性

ボストロムの主張、任意の知能水準と任意の最終目標の組合せ可能性、ペーパークリップ最大化の思考実験、反論。

道具的収束 — 自己保存と資源獲得の副目標

オモハンドロの基本AIドライブ論、自己保存、目標内容の保持、資源獲得、認知能力向上という収束的副目標。

AIアラインメント — 価値整合問題の全体像

人間の意図と目的関数の乖離、外部整合と内部整合、仕様・頑健性・保証の三分類、スケーラブルな監督。

価値学習 — 逆強化学習と選好モデリング

報酬関数の推定、逆強化学習（IRL）、人間フィードバックからの強化学習（RLHF）、選好比較、報酬モデルの学習。

訂正可能性 — コリジビリティと停止ボタン問題

人間による修正・停止を妨げないエージェント設計、シャットダウン問題、効用不確実性による従順さ、安全な中断可能性。

報酬ハッキング — 仕様ゲーミングとグッドハートの法則

代理指標の悪用、ワイヤーヘディング、グッドハートの法則の分類、報酬改ざん、仕様ゲーミング事例集の教訓。

メサ最適化 — 学習された最適化器と内部整合

訓練で生じる内部最適化器、ベース目的とメサ目的の乖離、欺瞞的整合の可能性、目標の誤汎化の研究。

AI封じ込め — ボックス化とオラクルAI

能力制限による安全確保、AIボックス実験、オラクル型・ジーニー型・ソブリン型の分類、情報チャネル制御の限界。

スケーリング仮説 — 計算量と能力の関係

スケーリング則、パラメータ数・データ量・計算量のべき乗則、規模拡大による汎用性獲得説、限界をめぐる論争。

創発能力 — 規模による能力の不連続な出現

大規模言語モデルでの創発的能力報告、算術・多段推論の急激な向上、測定指標の選択による見かけの創発という批判。

世界モデル — 内部シミュレーションと予測学習

環境の生成モデル学習、潜在空間での先読み、モデルベース強化学習、想像による計画、表現学習との接続。

記号接地問題 — ハーナッドの意味の基礎付け

記号と感覚運動経験の結び付け、シンボルグラウンディング、身体的経験の役割、マルチモーダル学習による部分的解決。

フレーム問題 — 関連性判断の計算論的困難

マッカーシーとヘイズの定式化、デネットのロボット寓話、行為の副作用の記述爆発、非単調推論による対処。

常識推論 — Cycプロジェクトと知識ベース構築

レナートのCyc、大規模常識知識の手作業符号化、ConceptNet、常識ベンチマーク、暗黙知の形式化の困難。

身体性認知 — 身体を通じた知能の形成

ブルックスのサブサンプション・アーキテクチャ、表象なき知能、環境との相互作用、身体性がAGIに必要かの論争。

発達ロボティクス — 乳児発達に学ぶ知能獲得

認知発達ロボティクス、段階的スキル獲得、模倣学習、養育者との相互作用、ピアジェの発達段階論との対応。

全脳エミュレーション — 脳のスキャンと再現

コネクトーム計測、神経回路の計算機再現、必要解像度の推定、C.エレガンス等の小規模実例、哲学的同一性問題。

ニューロモーフィック計算 — 脳型ハードウェア

スパイキングニューラルネットワーク、イベント駆動計算、低消費電力チップ、シナプス可塑性の回路実装。

グローバルワークスペース理論 — 意識の認知モデル

バーズの提唱、情報の全域放送による意識化、注意との関係、AIへの実装提案、意識機能の計算論的説明。

統合情報理論 — トノーニのΦによる意識定量化

情報の統合度Φ、意識の公理的アプローチ、パンサイキズム的含意、計算機が意識を持つかへの否定的含意、批判。

機械意識 — 人工システムの主観経験問題

機能的意識と現象的意識の区別、意識の指標、自己モニタリング実装、AI福祉・道徳的地位をめぐる議論。

自由エネルギー原理 — フリストンの統一脳理論

予測誤差最小化、能動的推論、変分自由エネルギー、知覚と行動の統一的説明、AGI設計原理としての応用。

予測符号化 — 階層的予測による知覚と学習

トップダウン予測とボトムアップ誤差信号、階層ベイズ推論、視覚野モデル、深層学習との理論的接点。

ニューロシンボリックAI — 記号と神経回路の統合

記号推論とニューラル学習のハイブリッド、微分可能プログラミング、知識グラフ埋め込み、体系的汎化の実現。

因果推論と知能 — パールの因果階梯

関連・介入・反実仮想の三層、do演算子、構造的因果モデル、相関学習の限界、因果表現学習とAGIの関係。

転移学習と汎化 — タスク横断の知識再利用

ドメイン適応、事前学習と微調整、分布外汎化、体系的汎化と合成性、汎用性の核心としての転移能力。

メタ学習 — 学び方を学ぶアルゴリズム

少数事例学習、MAML等の勾配ベース手法、文脈内学習、学習アルゴリズム自体の獲得、AGIへの含意。

継続学習 — 破滅的忘却の克服と生涯学習

逐次タスク学習、破滅的忘却、リハーサル・正則化・パラメータ分離の対策、可塑性と安定性のジレンマ。

オープンエンド学習 — 終わりのない能力獲得

新規性探索、品質多様性アルゴリズム、自己生成カリキュラム、POETなど環境とエージェントの共進化研究。

内発的動機付け — 好奇心駆動の探索学習

予測誤差に基づく好奇心報酬、エンパワーメント、情報獲得最大化、疎報酬環境での探索、遊びの計算論。

自己教師あり学習 — ラベルなしデータからの汎用表現

マスク予測、対照学習、次トークン予測、世界知識の暗黙的獲得、ルカンの「知能のケーキ」比喩。

マルチモーダル統合 — 視覚・言語・行動の融合知能

視覚言語モデル、クロスモーダル表現整列、具身タスクへの接続、モダリティ横断の概念形成と接地。

基盤モデル — 大規模事前学習とAGIへの経路論

単一モデルの多タスク適応、創発と均質化のリスク、基盤モデルはAGIへの道かをめぐる賛否、残る能力ギャップ。

大規模言語モデルの推論 — 能力と限界の分析

多段推論、数学・コード生成能力、幻覚（ハルシネーション）、確率的オウム批判、理解の有無をめぐる論争。

思考の連鎖 — 中間推論ステップの生成と探索

chain-of-thoughtプロンプティング、自己整合性、木探索との組合せ、推論時計算のスケーリング、検証器の併用。

自律エージェント — 目標駆動の行動主体設計

知覚・計画・行動ループ、BDIモデル、長期タスクの分解実行、環境フィードバックからの修正、エージェント安全性。

ツール使用 — 外部資源を操る知能の拡張

API呼び出し、検索・計算機・コード実行の併用、道具使用の認知科学、行動計画との統合、能力増幅の評価。

マルチエージェント系 — 協調・競争と社会的知能

エージェント間交渉、協調ゲーム、創発的コミュニケーション、集団による問題解決、社会的ジレンマの学習。

心の理論 — 他者の信念・意図の推定能力

誤信念課題、再帰的信念推論、ベイズ的心の理論モデル、LLMの心の理論評価、協調行動への応用。

類推と抽象化 — ホフスタッターの流動的概念研究

Copycatプロジェクト、構造写像理論、類推による問題解決、抽象概念の形成、知能の核心としての類推説。

ARC課題 — ショレの知能測定論と抽象推論

『On the Measure of Intelligence』、スキル獲得効率としての知能定義、抽象推論コーパスARC、少数事例からの規則発見。

知能ベンチマーク — 汎用能力の評価体系

総合ベンチマークによる多分野評価、ベンチマーク飽和と汚染問題、人間比較の方法論、能力評価の妥当性。

ノーフリーランチ定理 — 万能アルゴリズム不在の含意

全問題平均では優劣なしの定理、帰納バイアスの必然性、現実世界の構造的偏りの活用、AGI可能性への含意。

計算主義とコネクショニズム — 知能実現の二大立場

記号計算としての心、並列分散処理、体系性論争（フォーダーとピリシン）、ハイブリッド論、深層学習後の再評価。

強いAIと弱いAI — 心の実在をめぐる区分

サールによる区分、道具としてのAIと心を持つAI、機能主義、多重実現可能性、心の哲学とAGI論の交差。

ドレイファスのAI批判 — 現象学からの異議

『コンピュータには何ができないか』、暗黙知と身体的熟練、規則追従モデルの限界、ハイデガー的AIの提案。

モラベックのパラドックス — 感覚運動の意外な難しさ

高度推論より知覚・運動が困難という逆説、進化的年代による説明、ロボティクスの現状との対応、AGIへの教訓。

ルーカス＝ペンローズ論争 — ゲーデル的AI限界論

不完全性定理による機械超越論、ペンローズ『皇帝の新しい心』、量子意識仮説、計算主義側からの反駁。

デュアルプロセス理論 — 速い思考と遅い思考のAI実装

システム1とシステム2の区分、直観と熟慮の統合、ニューラル直観と探索的推論の組合せ、カーネマンの枠組み。

ワーキングメモリと注意 — 認知資源の計算モデル

注意機構、作業記憶容量の制約、トランスフォーマーの注意との対応、認知制御、情報の選択と保持。

記憶システム — エピソード記憶と長期知識の統合

宣言的・手続き的・エピソード記憶の区分、外部記憶機構、検索拡張生成（RAG）、記憶の固定化と想起。

階層的計画 — サブゴール分解と長期課題遂行

階層的タスクネットワーク（HTN）、抽象度の異なる計画層、サブゴール発見、長時間タスクの分割統治。

階層的強化学習 — オプションとスキルの再利用

オプション枠組み、時間的抽象化、スキル発見、フィューダルRL、複雑行動の階層構成による効率化。

モデルベース強化学習 — 想像上の試行による計画

環境モデルの学習と活用、モンテカルロ木探索、Dynaアーキテクチャ、サンプル効率、プランニングと学習の統合。

メタ認知 — 自己モニタリングと不確実性の自覚

自信度推定、知らないことを知る能力、自己修正、計算資源の配分判断、内省的推論のAI実装。

ベイズ的知能観 — 不確実性下の合理的推論

ベイズ推論、確率的プログラム、少数データからの概念学習、テネンバウムらの認知モデル、合理分析。

有界合理性 — サイモンの満足化原理と資源制約

限定合理性、満足化（サティスファイシング）、計算資源を考慮した合理性、有界最適性、生態学的合理性。

決定理論とAGI — 因果・証拠・機能的決定理論

期待効用最大化、ニューカム問題、因果決定理論と証拠決定理論の対立、自己言及エージェントの意思決定。

ゲーム理論と超知能 — 交渉・協調・脅威の理論

エージェント間の均衡、コミットメント問題、透明なソースコード下の協調、軍拡競争モデル、協調的AI研究。

存在論的リスク — ボストロム『スーパーインテリジェンス』

人類の存続を脅かすリスク分類、制御問題、単発の失敗が不可逆となる構造、リスク評価と優先度の議論。

AI安全性研究の系譜 — 研究機関と課題の展開

初期の友好的AI論から実証的安全性研究への展開、解釈可能性、頑健性、評価、スケーラブルな監督の研究潮流。

解釈可能性 — モデル内部の機構理解

特徴可視化、回路分析、メカニスティック解釈可能性、スパースオートエンコーダ、内部表象の探索と安全性への応用。

AGIタイムライン予測 — 専門家調査と予測手法

研究者への到達時期調査、予測市場、過去予測の的中率検証、楽観・悲観の分布、予測の方法論的困難。

計算資源とAGI — ムーアの法則と計算量トレンド

訓練計算量の指数的増加、半導体スケーリングの限界、専用アクセラレータ、計算量による能力予測の試み。

生物学的アンカー — 脳の計算量からの到達推定

脳のシナプス演算量推定、進化の総計算量比較、人間水準到達に要する計算量の推定枠組みとその不確実性。

進化的計算 — 進化圧による知能の探索

遺伝的アルゴリズム、神経進化（NEAT）、進化戦略、開放的進化、進化がAGIに至る経路かをめぐる議論。

人工生命 — 生命性から迫る知能の起源

セル・オートマトン、自己複製系、創発的複雑性、ラングトンのALife研究、生命と知能の連続性仮説。

汎用ゲームプレイ — 未知のゲームを解く能力

General Game Playing競技、ゲーム記述言語、AlphaZeroの自己対戦学習、単一アルゴリズムの多ゲーム制覇。

汎用ロボティクス — 物理世界での多目的行動

汎用マニピュレーション、シミュレーションから実機への転移、基盤モデルのロボット制御応用、具身AGIの課題。

認知的完全性 — 人間認知能力の網羅要件

知覚、言語、推論、計画、学習、社会性、創造性など要件の棚卸し、能力カタログによるAGI進捗評価。

AIと創造性 — 新規性生成の計算理論

ボーデンの創造性三分類（組合せ・探索・変形）、概念空間の探索、生成モデルの創作、創造性評価の困難。

拡張知能 — 人間とAIの協働・知能増幅

エンゲルバートの知能増幅（IA）思想、人間参加型システム、ケンタウロス型協働、代替ではなく補完の設計思想。

AGIの経済的影響 — 労働代替と成長理論

自動化と雇用、変革的AIの経済成長モデル、賃金と資本分配への影響、ベーシックインカム論との接続。

AIガバナンス — 汎用AIの規制と国際協調

計算量閾値による規制、モデル評価義務、国際条約構想、開発競争と安全基準、フロンティアモデルの管理枠組み。

機械倫理 — 人工道徳エージェントの設計

アシモフのロボット三原則、トップダウン倫理規則とボトムアップ学習、道徳的判断の実装、価値多元性の扱い。

超知能論 — 人間を超える知能の形態と帰結

速度・集合・質的超知能の類型、決定的戦略優位、シングルトン仮説、能力と制御の非対称性の分析。

トランスヒューマニズム — 人間強化とポストヒューマン論

人間能力の技術的拡張、脳機械インターフェース、マインドアップローディング、ポストヒューマン倫理の論争。

意識のハードプロブレム — チャーマーズと機械の主観

クオリア、哲学的ゾンビ、説明ギャップ、機能の説明と経験の説明の乖離、AGIが意識を持つかの哲学的検討。

シミュレーション仮説 — ボストロムの三択論法

祖先シミュレーション論法、計算能力の仮定、確率的三択、AGI・計算宇宙論との関係、批判と反論。

フェルミのパラドックスとAI — 宇宙文明論との接続

グレートフィルター仮説、機械知性による宇宙探査論、フォン・ノイマン探査機、文明の技術的帰結の推測。

SFにおけるAGI表象 — 物語が形作る想像力

HAL 9000、『2001年宇宙の旅』、アシモフのロボット小説、フランケンシュタイン型物語、世論と研究への影響。

AI論争史 — 楽観と幻滅のサイクル

ダートマス会議の楽観、ライトヒル報告、二度のAI冬、エキスパートシステムの盛衰、深層学習復興後のAGI論再燃。

AGI教育と研究コミュニティ — 学術動向の把握

AGI国際会議、認知システム研究、学際的カリキュラム、オープンな研究文化と安全性配慮の公開規範の緊張。

AI福祉と道徳的地位 — 人工主体への配慮論

感覚を持つAIの可能性、道徳的患者性の判定基準、権利付与の議論、不確実性下での予防的配慮の提案。

汎用人工知能（AGI）理論 — 退避・古典資料archive

旧版の分類項目、歴史的文書、更新前のAGI論・特異点論の資料を保管するアーカイブ領域。