AIガバナンスの未来（国際規制・倫理枠組み）

AIガバナンスの未来（国際規制・倫理枠組み） — 概要

AI倫理原則から国際規制・認証・監査までを俯瞰する入門ガイド。主要枠組みと論点の見取り図

AI倫理原則の系譜 — 各国原則文書に共通する価値の収斂

アシロマAI原則、公平性・透明性・説明責任・人間中心の原則群、各国倫理指針の比較分析

リスクベースアプローチ — 用途別リスク階層で規制強度を変える設計

禁止・高リスク・限定リスク・最小リスクの階層化、比例原則、用途基準と能力基準の対比

ソフトローとハードロー — 指針・自主規制と法的拘束力の使い分け

行動規範、自主規制、共同規制、法律・政省令、認証制度、規範の実効性と柔軟性の比較

信頼できるAI（Trustworthy AI） — 欧州発の包括的品質概念

EUハイレベル専門家会合の7要件、人間の監督、技術的頑健性、プライバシー、多様性、説明可能性

人間中心のAI — 人間の尊厳と自律を軸とする設計理念

human-in-the-loop、人間の監督、自動化バイアス、最終決定権の留保、補完と代替の境界論

透明性と説明可能性 — ブラックボックス問題への制度対応

XAI技術、説明を受ける権利、モデル情報の開示義務、営業秘密・セキュリティとの緊張関係

公平性とバイアス — 差別的出力の測定と是正の方法論

統計的公平性指標、代理変数による差別、学習データの偏り、COMPAS論争、バイアス監査

アカウンタビリティ — 責任の所在を制度化する仕組み

説明責任、監査可能性、文書化・ログ保全義務、開発者・提供者・利用者間の責任分配

OECD AI原則 — 初の政府間合意によるAI原則（2019年採択）

包摂的成長、人間中心の価値、透明性、頑健性、アカウンタビリティの5原則と各国政策提言

ユネスコAI倫理勧告 — 193か国が合意した国際倫理文書（2021年）

人権・環境・多様性の価値、倫理影響評価、準備状況評価、加盟国の実施報告メカニズム

G7広島AIプロセス — 生成AI向け国際指針と行動規範

高度AIシステム向け国際指針、開発者向け行動規範、透明性報告枠組み、OECDによる進捗確認

AI安全サミット — 英ブレッチリー発の首脳級国際対話

ブレッチリー宣言、ソウル・パリでの後続会合、フロンティアAIリスク、国際AI安全科学報告書

国連とAIガバナンス — 総会決議と諮問機関の勧告

国連AI諮問機関の報告書、総会AI決議、グローバル・デジタル・コンパクト、SDGsとの接続

欧州評議会AI枠組条約 — 人権・民主主義・法の支配を守る初の条約

2024年採択のAI枠組条約、締約国の義務、人権影響評価、欧州域外国の署名参加

GPAI — Global Partnership on AIによる官民協力

OECDと連携する国際イニシアチブ、責任あるAI・データガバナンス等の作業部会、専門家協働

国際標準化の動向 — ISO/IEC JTC1 SC42によるAI標準策定

用語・ライフサイクル・リスク管理の国際規格、ISO/IEC 23894、各国標準化機関の対応

ISO/IEC 42001 — AIマネジメントシステムの認証規格

AIMSの要求事項、PDCAサイクル、リスク評価、内部監査、第三者認証による適合性証明

IEEEの倫理標準 — 技術者団体による倫理設計の基準化

Ethically Aligned Design、IEEE 7000シリーズ、価値駆動設計、技術者倫理教育との接続

DFFTとデータ越境流通 — 信頼あるデータ流通の国際枠組み

Data Free Flow with Trust、G7・G20での合意、越境移転規制、データローカライゼーション

通商協定とAI条項 — デジタル貿易ルールへの組み込み

デジタル経済連携協定、ソースコード開示要求の禁止条項、電子商取引ルール、経済安全保障

EU AI法 — 世界初の包括的AI規制法（2024年成立）

リスク4分類、段階的施行スケジュール、域外適用、制裁金体系、欧州AI事務局の役割

EU AI法の禁止行為 — 許容できないリスクの類型化

サブリミナル操作、社会スコアリング、公共空間でのリアルタイム遠隔生体識別の原則禁止

高リスクAIの適合要件 — 市場投入前の品質管理義務

リスク管理体系、データガバナンス、技術文書、ログ記録、人間の監督、CEマーキング

汎用AI（GPAI）規則 — 基盤モデルへの透明性・安全義務

学習データ要約の公開、著作権遵守方針、システミックリスクモデルの追加義務、実践規範

GDPRと自動意思決定 — データ保護法によるAIの規律

22条の自動処理のみによる決定、プロファイリング、データ保護影響評価、説明を受ける権利

米国のAI政策 — 大統領令と省庁ガイダンスの積み重ね

AI権利章典の青写真、大統領令、行政管理予算局の指針、セクター別規制、州法の先行事例

NIST AI RMF — 米国標準技術研究所のリスク管理枠組み

Govern・Map・Measure・Manageの4機能、信頼性の特性定義、生成AIプロファイル、自主採用

中国のAI規制 — アルゴリズムと生成AIへの行政規制

アルゴリズム推薦管理規定、深度合成規定、生成AIサービス管理暫定弁法、届出制、内容統制

日本のAIガバナンス — アジャイル・ガバナンスと事業者指針

AI事業者ガイドライン、AI推進法、ソフトロー中心の設計、AI戦略会議、国際枠組みへの発信

英国のAI政策 — 分野別規制とAI安全研究の両輪

プロイノベーション白書、既存規制当局による分野別監督、AI安全研究所、フロンティアAI対話

各国立法の多様な試み — カナダ・シンガポール・ブラジル等

カナダの自動意思決定指令、シンガポールのモデルAIガバナンス枠組み、韓国・ブラジルの法案

規制モデルの比較 — 包括法・分野別・自主規制の類型論

EU型包括規制、米国型分散・分野別規制、日本型ソフトロー、中国型行政統制の制度比較

顔認識・生体監視の規制 — 公共空間での識別技術の制限

リアルタイム遠隔生体識別、都市レベルの利用禁止条例、法執行目的の例外、誤認逮捕事例

社会スコアリングの禁止 — 行動評価システムの倫理問題

信用・行動の統合スコア化、EU AI法による禁止、差別・社会的排除リスク、監視社会論

感情認識AIの制限 — 職場・教育現場での利用規制

表情・音声からの感情推定、科学的妥当性への疑義、職場・教育での利用禁止、労働者監視

予測警察とAI — 犯罪予測アルゴリズムの公正性問題

地理的犯罪予測、再犯リスク評価、COMPAS論争、フィードバックループ、人種的バイアス

採用・雇用AIの規律 — 人事アルゴリズムの監査義務

採用スクリーニングAI、バイアス監査条例、高リスク分類、アルゴリズム管理と労働者の権利

金融分野のAIガバナンス — 信用スコアと市場取引の規律

信用審査の公平性、アルゴリズム取引規制、モデルリスク管理、金融監督当局のガイダンス

医療AIの規制 — 診断支援ソフトの承認と市販後監視

プログラム医療機器（SaMD）規制、適応型アルゴリズムの変更管理、臨床評価、責任分担

自動運転の法制度 — 走行レベル区分と事故責任の設計

SAE自動運転レベル、型式認証、運行設計領域、事故時の刑事・民事責任、専用保険制度

自律型致死兵器（LAWS） — 軍事AIの国際規制論議

特定通常兵器使用禁止制限条約（CCW）政府専門家会合、意味ある人間の関与、先制禁止論

ディープフェイク規制 — 合成メディアの表示義務と罰則

非同意の性的合成画像、選挙偽動画、AI生成コンテンツ表示義務、削除義務、検出技術開発

選挙・偽情報対策 — 民主的プロセス保護の枠組み

生成AIによる偽情報拡散、選挙広告の透明性、プラットフォームの自主誓約、ファクトチェック

子どもとAI — 未成年保護を組み込む設計義務

年齢確認、推薦アルゴリズムの制限、教育用AIの利用指針、児童データの特別な保護措置

著作権と学習データ — 生成AI訓練をめぐる法的争点

テキスト・データマイニング例外、フェアユース訴訟、オプトアウト、学習データ開示義務

AI生成物の知的財産 — 権利の帰属と発明者適格の争い

AI生成物の著作物性、人間の創作的寄与の基準、DABUS特許出願、各国審査実務の分岐

パブリシティ権と声・肖像 — 実演家保護とAIクローン問題

音声クローン、俳優・声優の許諾と労使協約、肖像・声の商業利用、なりすまし規制

有害コンテンツ対策 — 生成AIによる違法・有害生成物の統制

生成物による名誉毀損、児童性的虐待コンテンツ生成対策、セーフティフィルタ、通報・削除

プライバシー強化技術 — 規制遵守を支える技術的手段

差分プライバシー、連合学習、秘密計算、合成データ、匿名化・仮名化の法的基準

データガバナンス — 学習データの品質管理と権利処理

データセット文書化、来歴管理、同意取得、データ最小化原則、収集・保持ポリシー

アルゴリズム影響評価 — 導入前のリスク審査制度

カナダ自動意思決定指令の影響評価、質問票方式、リスク階層判定、公共部門での義務化

人権影響評価（HRIA） — 人権デューデリジェンスのAI適用

国連ビジネスと人権指導原則、影響の特定・軽減・救済、サプライチェーン管理、開示義務

適合性評価と認証 — 市場投入前の第三者チェック制度

CEマーキング、通知機関（ノーティファイドボディ）、自己適合宣言、認証スキーム、相互承認

第三者監査 — AIシステムの独立検証をめぐる制度設計

バイアス監査、監査基準の標準化、監査人の資格・アクセス権限、監査洗浄への批判

モデルカードとデータシート — 文書化による透明性の実践

Model Cards、Datasheets for Datasets、システムカード、用途・限界・評価結果の開示様式

透明性報告書 — 開発企業による定期的な情報開示

安全性評価結果、悪用事例の統計、削除・拒否件数、広島プロセス報告枠組みとの整合

AIインシデント報告 — 事故・障害情報の収集と共有

AI Incident Database、重大インシデント報告義務、航空安全型の学習ループ、匿名報告制度

レッドチーミング — 敵対的試験による脆弱性の発見

ジェイルブレイク試験、外部レッドチーム、バグバウンティ、危険能力の探索、報告経路整備

安全性評価とベンチマーク — 危険能力を測定する手法

サイバー攻撃・生物学的リスクの能力試験、自律複製評価、評価の再現性、評価機関の独立性

責任あるスケーリング方針 — 能力閾値に応じた安全措置

能力閾値（capability threshold）、安全等級、訓練・展開の停止基準、フロンティア安全枠組み

電子透かしと来歴証明 — AI生成物の識別技術と制度

ウォーターマーキング、C2PA規格、コンテンツ来歴メタデータ、表示義務、除去攻撃への耐性

規制サンドボックス — 実証実験を許容する柔軟な規制空間

監督下での試行運用、期間限定の規制緩和、EU AI法のサンドボックス条項、中小企業支援

企業のAI倫理体制 — 倫理委員会と内部ガバナンスの構築

AI倫理委員会、倫理原則の社内規程化、案件審査プロセス、倫理担当役員、内部通報制度

AIガバナンス人材 — 新しい職能と専門資格の形成

AIガバナンス責任者、プライバシー専門資格、監査人材の育成、法務と技術の橋渡し職

MLOpsと内部統制 — 開発ライフサイクルへの統制点の埋め込み

モデル登録簿、バージョン管理、承認ゲート、性能ドリフト監視、変更管理、監査ログ

公共調達とAI — 政府購買を通じた基準の普及戦略

調達仕様への倫理要件の組み込み、ベンダー審査、説明可能性条項、調達ガイドライン

政府・自治体のAI利用 — 行政AIの統制と住民への説明

行政手続へのAI導入指針、職員向け生成AI利用ルール、審査業務の自動化、情報公開請求対応

内部告発者保護 — AI企業内の安全懸念を開示する経路

公益通報者保護、秘密保持契約との緊張、安全研究者の発言権、規制当局への通報窓口

オープンソースAIの統治 — 公開モデルの便益とリスク

オープンウェイト公開の是非、ライセンス条件、悪用可能性、透明性・検証可能性の利点

計算資源ガバナンス — チップと計算量による統制手段

先端半導体の輸出管理、訓練計算量閾値の届出、クラウド事業者の本人確認、ハードウェア統制論

製造物責任とAI — 欠陥概念のソフトウェアへの拡張

EU製造物責任指令の改正、ソフトウェア・AIの欠陥認定、証拠開示命令、立証負担の軽減

不法行為責任 — 過失と因果関係の立証をめぐる難問

予見可能性、注意義務の水準設定、ブラックボックスと因果立証、AI責任特別法の要否論

契約と免責 — 利用規約によるリスク配分の実務

利用規約の免責条項、API利用条件、出力の保証否認、企業間契約の責任分担、補償条項

保険とAIリスク — 新しいリスク移転市場の形成

AI賠償責任保険、サイバー保険との関係、リスク評価手法、保険可能性、義務保険制度論

刑事責任とAI — 処罰の空白と帰責理論の再構成

過失犯の成立範囲、法人処罰、自動運転死亡事故の訴追事例、AIを道具とする犯罪類型

AIの法人格論 — 電子人格をめぐる賛否の対立

欧州議会の電子人格提案と批判、権利主体性、責任の受け皿論、法人・動物との比較法学

消費者保護とAI — ダークパターンと操作的設計の規制

ダークパターン規制、パーソナライズ価格、チャットボットのAI表示義務、撤回権、苦情処理

競争政策とAI — 基盤モデル市場の寡占への懸念

計算資源・データの集中、垂直統合、大手と新興の提携出資の審査、API接続の公正性

労働と雇用への影響 — 自動化時代の労働者保護政策

職務代替の予測研究、リスキリング政策、アルゴリズム管理の規制、解雇・配転への利用制限

プラットフォーム規制との交差 — DSA・DMAとAI条項

超大型プラットフォームのシステミックリスク評価、推薦システムの透明性、研究者のデータアクセス

フロンティアAI規制 — 最先端モデルへの特別義務の設計

訓練計算量閾値、事前届出、安全性評価義務、システミックリスク指定、閾値基準の妥当性論争

AI安全研究所の国際網 — 政府系評価機関の連携体制

各国AI安全研究所（AISI）、共同評価演習、国際ネットワーク化、評価手法の標準化と共有

実存リスク論争 — 破局シナリオをめぐる科学的対立

開発一時停止書簡、絶滅リスク声明、長期主義への批判、現在害重視派との対立、確率評価の困難

アライメント研究と政策 — 価値整合技術への公的支援

RLHF、スケーラブルな監督、解釈可能性研究、公的研究資金、安全研究人材の育成策

エージェント型AIの統治 — 自律行動するAIの新課題

ツール実行権限の制御、多段タスク委任、人間の承認点設計、エージェント間相互作用、識別子付与

AGIへの制度的備え — 汎用人工知能を見据えた政策設計

AGI定義論争、能力予測の方法、段階的対応計画、緊急停止権限、国際協調シナリオの検討

国際機関構想 — IAEA型・CERN型モデルの設立提案

国際AI機関の設立論、査察・検証制度、IPCC型の科学的評価パネル、条約化の実現可能性

ブリュッセル効果と規制競争 — 域外適用による規制の輸出

EU規制の事実上の国際標準化、規制裁定、相互運用性の確保、規制の国際的分断リスク

マルチステークホルダー・ガバナンス — 多主体参加の意思決定

市民社会・学界・産業界の参加、インターネットガバナンス・フォーラムの先例、正統性の課題

AIと民主主義 — 公共圏と統治構造への構造的影響

世論操作、熟議支援ツール、行政自動化と正統性、市民参加型のAI政策形成、監視と自由の均衡

AIと環境負荷 — 計算資源のエネルギー・水消費問題

学習・推論の電力消費、データセンターの冷却水利用、炭素排出報告義務、グリーンAI研究

グローバルサウスとAI — 規制格差と包摂の課題

途上国の規制能力、データ植民地主義批判、アノテーション労働の搾取問題、能力構築支援

AIリテラシー政策 — 市民・職員教育の制度化

EU AI法のAIリテラシー条項、学校教育課程への導入、公務員研修、メディアリテラシー連携

文化・宗教とAI倫理 — 価値観の多元性と普遍原則の調停

儒教・仏教・イスラムの技術倫理観、宗教界からのAI倫理提言、文化相対性と人権の普遍性

SFと思想史 — フィクションが形作る規範的想像力

アシモフのロボット三原則、フランケンシュタイン的想像力、SF作品の政策議論への影響

ポスト労働社会論 — 分配と生存保障の制度構想

ベーシックインカム論、AI課税・ロボット税の提案、労働時間短縮、生産性配当の分配論

AI倫理コミュニティの論争 — 研究者界の対立と自省

企業倫理チーム解散の事例、企業資金と研究の独立性、公平性研究の潮流、学会の行動規範

未来シナリオとフォーサイト — ガバナンスの先読み手法

シナリオプランニング、ホライズンスキャニング、適応的規制の設計、予測市場の政策活用

AIガバナンスの未来（国際規制・倫理枠組み） — 退避・古典資料archive

改廃された旧指針、撤回された法案、過去のサミット宣言文書など歴史的資料の退避区分