AIガバナンス制度（透明性・説明責任）

AIガバナンス制度（透明性・説明責任） — 概要

AIの透明性・説明責任を担保する法規制・標準・監査・説明可能性技術を体系的に扱う入門ガイド

透明性の概念 — 開示・可視性・理解可能性の三層

情報開示、システム可視性、判断根拠の理解可能性、透明性のパラドックス、営業秘密との緊張関係

説明責任の概念 — answerabilityと責任の連鎖

アカウンタビリティの定義、応答義務、制裁可能性、責任ギャップ、多手問題（many hands problem）

信頼できるAIの原則 — 国際的に共有される要件群

人間中心、公平性、安全性、プライバシー、透明性、説明責任、頑健性の7要件と各国原則の比較

リスクベースアプローチ — 用途別リスク区分と義務の階層化

許容不可・高リスク・限定リスク・最小リスクの区分、比例原則、リスク評価基準、義務の傾斜配分

人間による監督 — human oversightの制度設計

human-in-the-loop、on-the-loop、最終判断権、自動化バイアス、停止権限、監督者の訓練要件

公平性と非差別 — バイアスの法的・技術的定義

直接差別・間接差別、保護属性、代理変数、統計的均等、機会均等、公平性定義間の非両立性

プライバシーとデータ保護 — AI固有のデータ保護論点

目的外利用、プロファイリング、匿名化と再識別、データ最小化、忘れられる権利と機械学習の緊張

ソフトローとハードロー — 拘束力の異なる規範の使い分け

法規制、ガイドライン、業界自主規制、共同規制、認証、行動規範、規範間の相互作用と実効性

ガバナンス主体の役割分担 — 開発者・提供者・利用者の責務

developer/provider/deployer/userの区分、バリューチェーン責任、汎用モデル提供者の特別義務

アルゴリズムの権力性 — 自動決定が個人と社会に及ぼす影響

スコアリング社会、選別と排除、情報の非対称性、ブラックボックス批判、デュープロセスの要請

OECD AI原則 — 初の政府間AI原則と国際協調

2019年採択の5原則、包摂的成長、人間中心の価値、透明性、頑健性、アカウンタビリティ、政策勧告

UNESCO AI倫理勧告 — 193カ国が合意した倫理枠組み

2021年採択、人権基盤アプローチ、倫理影響評価、readiness assessment、加盟国の実装支援

G7広島AIプロセス — 生成AI向け国際指針と行動規範

2023年合意の国際指針、高度AIシステム開発者向け行動規範、透明性報告、国際的相互運用性

EU AI法 — 世界初の包括的AI規制法

リスク4区分、禁止用途、高リスクAIの義務、汎用AIモデル規定、CEマーキング、制裁金、段階的施行

GDPRと自動意思決定 — 第22条と説明を受ける権利

完全自動決定への服従拒否権、意味ある情報の提供、プロファイリング規制、データ主体の権利行使

欧州評議会AI枠組条約 — 人権・民主主義・法の支配の国際条約

2024年採択、締約国の義務、人権影響への救済、公的・私的部門への適用範囲、既存人権条約との関係

米国のAIガバナンス — 分野別規制と行政府の指針

NIST AI RMF、大統領令、OMB指針、FTCの執行、州法の動向、セクトラル規制と連邦法不在の構図

英国のAIガバナンス — 既存規制当局活用型アプローチ

pro-innovation白書、5原則、分野別規制当局への委任、AI安全サミットとブレッチリー宣言

中国のAI規制 — アルゴリズム届出と生成AI管理

アルゴリズム推薦管理規定、深度合成規定、生成AIサービス管理暫定弁法、届出制、コンテンツ責任

日本のAIガバナンス — アジャイル・ガバナンスと事業者指針

AI事業者ガイドライン、ソフトロー中心の統合指針、AI戦略会議、ガバナンス・イノベーション論

適合性評価 — 市場投入前の要件充足確認手続

自己評価と第三者評価、notified body、CEマーキング、技術文書審査、品質マネジメントシステム

AI登録制度 — 公的データベースへの登録・届出義務

高リスクAIのEUデータベース登録、公共部門アルゴリズム登録簿、届出事項、公開範囲、更新義務

規制サンドボックス — 監督下での実証実験制度

限定的規制免除、実証環境、監督当局との対話、中小企業支援、実データ利用の条件、卒業基準

市販後監視とインシデント報告 — 運用段階の継続的監督

post-market monitoring計画、重大インシデント報告義務、是正措置、リコール、当局への通知期限

AI監査制度 — 独立監査による検証の制度化

内部監査と外部監査、監査基準、監査人の資格・独立性、アクセス権、監査報告書、監査市場の形成

第三者認証とアシュアランス — 信頼の外部化メカニズム

認証スキーム、適合マーク、アシュアランスエコシステム、認定機関、認証の有効期間と更新審査

AIマネジメントシステム標準 — ISO/IEC 42001と組織的統制

AIMS要求事項、PDCAサイクル、ISO/IEC 23894リスクマネジメント、JTC1/SC42の標準化活動

アルゴリズム影響評価 — 導入前のリスク事前評価

AIA手法、影響の特定・分析・緩和、公表義務、カナダ政府の自動意思決定指令、評価様式の設計

基本権影響評価 — FRIAと人権デューデリジェンス

EU AI法の基本権影響評価、影響を受ける集団の特定、人権DDとの接続、緩和措置、公的機関の義務

データ保護影響評価 — DPIAとAIシステムへの適用

高リスク処理の事前評価、必要性・比例性審査、監督機関への事前相談、DPIAとAIAの役割分担

技術文書化義務 — 規制対応のためのシステム文書

設計仕様、学習データ記述、性能指標、想定用途と誤用、文書の保存期間、当局への提出義務

モデルカード — 機械学習モデルの標準的開示様式

想定用途、評価条件、性能の属性別分解、限界と注意事項、倫理的配慮、モデルカード実務の普及

データシート — 学習データセットの来歴文書化

Datasheets for Datasets、収集方法、前処理、構成、推奨用途、データ声明、データセット監査

システムカード — 応用システム全体の挙動開示

モデル単体でなく統合システムの評価開示、フィルタ・安全層の記述、対話型AIの挙動説明

透明性報告書 — 事業者による定期的な運用開示

削除・制限件数、政府要請対応、誤検知率、プラットフォームの定期報告、報告様式の標準化

学習データの開示 — 訓練データ透明性の義務化論

データソース要約の公表、著作物利用の開示、クロール範囲、EU AI法の汎用AI向け要約義務

ログ保存とトレーサビリティ — 事後検証可能性の確保

自動ログ記録義務、監査証跡、改竄防止、保存期間、意思決定の再現可能性、追跡可能性の設計

コンテンツ来歴技術 — C2PAと出所証明の標準化

コンテンツクレデンシャル、署名付きメタデータ、編集履歴の連鎖、来歴表示、剥離攻撃への耐性

電子透かしとAI生成検出 — 生成物の機械的識別技術

テキスト・画像への透かし埋込、統計的検出器、頑健性と回避攻撃、誤検出の害、検出限界の議論

AI生成コンテンツの表示義務 — ラベリング規制

合成コンテンツの明示義務、ディープフェイク表示、チャットボットのAI開示、広告・選挙での表示

説明可能AI（XAI）概説 — 解釈可能性研究の全体像

透明なモデルと事後説明、局所と大域、忠実性と了解性のトレードオフ、XAIの分類学と研究史

局所的事後説明 — LIME・SHAPによる個別予測の説明

局所代理モデル、シャープレイ値、加法的特徴量帰属、摂動ベース説明、説明の不安定性問題

反実仮想説明 — 「何を変えれば結果が変わるか」の提示

counterfactual explanation、最小変更、実行可能性制約、algorithmic recourseとの接続

大域的説明と特徴量重要度 — モデル全体の挙動理解

permutation importance、部分依存プロット、代理決定木、ルール抽出、大域説明の要約損失

本質的に解釈可能なモデル — 説明不要な設計の選択

線形モデル、決定木、一般化加法モデル、スコアカード、高リスク領域での解釈可能モデル優先論

深層モデルの可視化 — 勾配・注意に基づく説明

saliency map、Grad-CAM、注意重みの説明性論争、入力帰属法の健全性チェック、視覚的説明の評価

機構的解釈可能性 — モデル内部回路の解明研究

mechanistic interpretability、特徴の重ね合わせ、回路分析、プロービング、スパースオートエンコーダ

説明の品質評価 — 忠実性・安定性・有用性の測定

faithfulness指標、削除・挿入テスト、人間被験者評価、説明の操作可能性、fairwashingの危険

ユーザー向け説明設計 — 受け手に応じた説明の提示

対象者別説明（規制当局・専門家・一般消費者）、説明インタフェース、過信と不信、認知負荷の考慮

説明を受ける権利 — 法的権利としての説明請求

GDPR由来の議論、意味ある情報の範囲、決定理由の提示義務、行政手続の理由付記との類比

異議申立てと救済 — 自動決定への不服申立て制度

contestability、人間による再審査請求、是正・撤回手続、集団的救済、苦情処理窓口の設計

アルゴリズム的リコース — 不利な決定を覆す実行可能な手段

recourseの形式的定義、実行可能な変更提案、コスト公平性、モデル更新でのリコース無効化問題

法的責任と損害賠償 — AI起因の損害への民事責任

過失責任、製造物責任のソフトウェア拡張、立証責任の転換、因果関係の証明困難、保険制度

内部統制と三線防衛 — 組織内のAIリスク管理体制

第一線（事業部門）・第二線（リスク管理）・第三線（内部監査）、AI利用台帳、承認プロセス

モデルリスク管理 — 金融規制発の検証枠組み

米連邦準備制度SR 11-7、モデル検証、独立レビュー、モデル在庫管理、銀行のAI利用への拡張

AI倫理委員会 — 企業内審査機関の設計と限界

倫理審査プロセス、委員構成と独立性、拒否権の有無、ethics washing批判、解散事例の教訓

内部通報者保護 — AI開発現場からの告発の制度化

whistleblower保護、秘密保持契約との衝突、安全懸念の報告経路、報復禁止、公益通報制度

調達によるガバナンス — 公共調達条件を通じた統制

政府調達基準、契約条項での透明性要求、ベンダー審査、調達ガイドライン、supplier責任の連鎖

利用規約と許容利用ポリシー — 契約による利用統制

acceptable use policy、禁止用途、API利用条件、違反時の停止措置、下流利用者への義務伝播

執行と制裁 — 規制違反への行政措置と抑止力

制裁金の算定、業務停止命令、市場撤去、監督当局の調査権限、域外適用、執行資源の制約

バイアス監査 — 差別的挙動の体系的検査

属性別性能測定、監査データセット、交差性の考慮、雇用ツール監査義務、監査手法の標準化

公平性指標 — 統計的公平性の定量的定義群

demographic parity、equalized odds、較正、個人公平性、指標間の不可能性定理、閾値調整

レッドチーミング — 敵対的視点による脆弱性発見

外部レッドチーム、ジェイルブレイク探索、有害出力の体系的探索、報告と修正のサイクル、開示規範

能力評価とベンチマーク — 性能主張の検証可能性

標準ベンチマーク、評価の汚染問題、第三者評価、危険能力評価、評価結果の開示義務論

セーフティケース — 安全性の構造化された論証

主張・論拠・証拠の階層構造、航空・原子力からの移入、フロンティアAIへの適用、独立審査

監査研究の方法論 — 外部からのアルゴリズム検証手法

audit study、スクレイピング監査、ソックパペット法、API監査、研究者アクセス権、法的リスク

継続的モニタリング — 運用中の性能・公平性監視

分布シフト検知、性能劣化アラート、ドリフト対応の再学習統制、監視ダッシュボード、KPI設計

AI安全研究所 — 政府系評価機関の国際ネットワーク

英米等のAI Safety Institute、市販前評価、評価手法の共有、国際ネットワーク化、権限の限界

インシデントデータベース — 事故事例の収集と学習

AIインシデントの定義、公開データベース、事例分類法、航空安全報告制度との類比、再発防止

評価の独立性 — 利益相反なき検証体制の確保

自己評価の限界、評価機関の資金独立、回転ドア問題、監査法人モデルの教訓、認定制度の設計

医療AIの規制 — SaMDと臨床性能の透明性

医療機器プログラム規制、臨床評価、市販後調査、適応拡大の統制、説明責任と医師の裁量

金融分野のAI統制 — 与信・与信審査の説明義務

信用スコアリングの説明、与信拒否理由の通知、公正貸付規制、不正検知の誤検出救済、監督指針

雇用・採用AIの規制 — 自動選考ツールの監査義務

ニューヨーク市Local Law 144、採用前バイアス監査、候補者への通知、履歴書選別の透明性

刑事司法とAI — 再犯予測ツールをめぐる論争

COMPAS論争、公平性指標の対立、量刑支援の適正手続、予測的警察活動批判、透明性の要請

顔認識・生体認証の規制 — 遠隔生体識別の制限

公共空間でのリアルタイム顔認識禁止論、法執行例外、感情推定の禁止、自治体条例による制限

自動運転の安全ガバナンス — 走行記録と事故調査

型式認証、走行データ記録装置、事故調査体制、ODD（運行設計領域）開示、段階的実証制度

教育分野のAIガバナンス — 学習者保護と評価の公正

自動採点の透明性、入試アルゴリズムの説明、学習分析のプライバシー、生成AIの学習利用指針

行政におけるAI利用統制 — 公権力行使の透明性要件

行政手続の理由提示、給付・審査自動化の統制、公的アルゴリズム登録、情報公開請求への対応

推薦システムの透明性 — プラットフォーム規制とDSA

推薦パラメータの開示、プロファイリング不使用選択肢、超大規模プラットフォームのリスク評価

選挙とディープフェイク — 民主的プロセスの保護

選挙偽情報対策、政治広告のAI利用表示、候補者なりすまし規制、事実確認体制、表現の自由との均衡

基盤モデルの透明性 — 汎用AIモデル固有の開示課題

訓練データ・計算量・評価結果の開示度測定、下流利用の把握困難、汎用AI行動規範、開示指標

フロンティアAI安全枠組み — 最先端モデルの自主的統制

能力閾値、責任あるスケーリング方針、開発中止基準、企業間安全コミットメント、政府への報告

計算資源ガバナンス — コンピュートを基点とする規制

訓練計算量閾値による義務発生、大規模学習の届出、半導体供給網、クラウド事業者の顧客確認

オープンモデルのガバナンス — 公開重みモデルの統制困難

重み公開の便益とリスク、下流改変の追跡不能性、オープンソース例外、公開判断の評価枠組み

責任あるAIライセンス — 利用制限付きライセンスの試み

RAILライセンス、用途制限条項、オープンソース定義との緊張、執行可能性、ライセンス汚染問題

段階的公開 — モデルリリースの漸進的戦略

staged release、限定アクセス、API経由提供、研究者先行公開、公開後の撤回不能性、公開判断基準

輸出管理とデュアルユース — 安全保障とAI技術移転

先端半導体の輸出規制、モデル重みの管理対象化論、軍民両用性、国際レジームとの整合

軍事AIと自律兵器 — LAWSをめぐる国際的議論

自律型致死兵器システム、CCW政府専門家会合、意味ある人間の関与、責任帰属、軍事利用宣言

学習データとオプトアウト — 収集段階の同意と拒否権

クロール拒否シグナル、robots.txt、オプトアウト登録、同意の実効性、データ提供者への対価論

著作権と学習データ透明性 — 権利者保護と開示義務

TDM例外、フェアユース論争、権利者のオプトアウト、学習利用の開示、出力の類似性検査

市民参加とAIガバナンス — 熟議・参加型の制度設計

市民陪審、熟議型世論調査、参加型影響評価、コミュニティ監査、当事者参画の制度化

AI倫理・ガバナンス教育 — 専門職育成とリテラシー

AI倫理カリキュラム、監査人材の育成、公務員研修、AIリテラシー義務、資格制度の萌芽

FAccT研究コミュニティ — 公平性・説明責任・透明性の学術

ACM FAccT会議、学際的研究、批判的アルゴリズム研究、産学の緊張、研究成果の政策接続

環境負荷の開示 — AIの電力・水・炭素フットプリント

訓練・推論の電力消費、データセンター冷却水、炭素排出報告、効率化指標、持続可能性報告基準

労働とAIの透明性 — 職場アルゴリズム管理の統制

アルゴリズム管理の通知義務、労働者監視の制限、ギグワーカーの配分透明性、労使協議、集団的権利

グローバルサウスとAIガバナンス — 規制格差と包摂

規制能力の格差、データ植民地主義批判、アノテーション労働、国際支援、地域独自の規範形成

説明の哲学的基礎 — 説明とは何かをめぐる理論

科学哲学の説明理論、因果的説明と理由付け、理解の認識論、機械の説明と人間の説明の差異

アルゴリズム規制の前史 — AI以前の自動化統制の系譜

信用情報規制、公正信用報告、統計的差別論、コンピュータ化への初期規制論、行政手続法の蓄積

AIガバナンス制度（透明性・説明責任） — 退避・古典資料archive

改廃された旧ガイドライン、初期の倫理原則文書、失効した自主規範など歴史的資料の退避領域