倫理・バイアス・透明性の基礎

倫理・バイアス・透明性の基礎 — 概要

AI倫理の全体像への入門。公平性、バイアス、説明可能性、プライバシー、アカウンタビリティ、規制枠組みを概観する

グループ公平性指標 — 集団間の統計的均等を測る定義群

デモグラフィックパリティ、機会均等、イコライズドオッズ、キャリブレーション、混同行列に基づく格差測定

個人公平性 — 類似の個人を類似に扱う原則

類似度距離に基づく公平性、リプシッツ条件、メトリック設計の困難、反実仮想公平性との関係、個別事例の処遇一貫性

公平性指標の両立不可能性 — 複数基準の同時達成の限界

キャリブレーションと誤り率均等の非両立、基底率の差、不可能性定理、指標選択のトレードオフと政策判断

データバイアスの類型 — 収集段階で混入する偏りの分類

標本選択バイアス、歴史的バイアス、測定バイアス、表現バイアス、集計バイアス、生存者バイアスの発生源

アルゴリズミックバイアスの発生機序 — 学習過程で偏りが増幅する仕組み

目的関数の設計、少数群の過小適合、クラス不均衡、特徴量選択、最適化が多数派に寄る構造的要因

ラベルバイアスとアノテーション品質 — 教師信号に潜む人間の偏見

アノテータ間不一致、主観的ラベル、ガイドライン設計、クラウドソーシング品質管理、正解概念の社会的構築性

代理変数と間接差別 — 保護属性を除いても残る差別経路

郵便番号による人種の代理、レッドライニング、相関特徴量、属性除去の限界、差別的インパクトの法理

フィードバックループ — 予測が現実を変え偏りを固定化する循環

予測的警察活動の自己成就、推薦による嗜好の固定化、動的環境での格差拡大、遅延効果の長期評価

顔認識の精度格差 — Gender Shades研究が示した交差的偏り

肌の色と性別による誤認識率の差、Buolamwini・Gebruの監査研究、商用APIの検証、交差性の概念

再犯予測とCOMPAS論争 — 刑事司法アルゴリズムの公平性論争

ProPublicaの調査報道、偽陽性率の人種格差、キャリブレーション反論、リスク評価ツールの司法利用の是非

説明可能AI（XAI）総論 — ブラックボックスを解釈する技術体系

大域的説明と局所的説明、モデル固有法とモデル非依存法、解釈性と精度のトレードオフ、説明の受け手設計

LIME — 局所線形近似による予測の説明

摂動サンプリング、局所代理モデル、特徴量重要度の提示、画像・テキスト・表形式への適用、近似の不安定性

SHAP — シャープレイ値に基づく寄与度分解

協力ゲーム理論のシャープレイ値、加法的特徴量帰属、TreeSHAPの高速化、要約プロット、公理的正当化

顕著性マップと勾配法 — 深層モデルの入力寄与の可視化

勾配ベース可視化、Grad-CAM、統合勾配、注意重みの解釈可能性論争、視覚的説明の健全性チェック

反実仮想説明 — 「何が変われば結果が変わったか」の提示

最小変更の探索、実行可能性制約、リコース（救済手段）、否定的決定への異議申立て支援、多様な反例生成

本質的に解釈可能なモデル — 説明を後付けしない設計

決定木、ルールリスト、一般化加法モデル、スパース線形モデル、単調性制約、高リスク領域での解釈可能設計論

モデルカード — 学習済みモデルの性能・用途の標準文書

想定用途と非推奨用途、集団別評価結果、限界の明示、Mitchellらの提案、モデル公開時の透明性実務

データセットの文書化 — Datasheets for Datasetsの実践

収集動機、収集方法、前処理、推奨用途、配布条件の記録、Gebruらの提案、データ来歴の説明責任

説明を受ける権利 — 自動化された決定への情報請求

GDPR22条の自動処理決定、意味ある情報の提供義務、法解釈論争、透明性義務と営業秘密の緊張関係

アルゴリズム監査 — 第三者による偏り・性能の検証手続

内部監査と外部監査、ブラックボックス監査手法、スクレイピング調査、監査アクセス権、監査基準の標準化

アカウンタビリティ — AIシステムの説明責任の所在設計

開発者・提供者・利用者の責任分配、文書化義務、監査証跡、是正手続、組織的な答責性の仕組みづくり

差分プライバシー — 統計的保証つきの個人情報保護

イプシロン・デルタ保証、ノイズ付加機構、プライバシー予算、国勢調査への適用、有用性と保護強度の均衡

連合学習とプライバシー — データを集めずに学習する枠組み

端末上学習、勾配集約、セキュア集計、差分プライバシー併用、通信効率、勾配からの情報漏洩リスク

匿名化と再識別 — 個人特定リスクの技術的限界

k-匿名性、l-多様性、準識別子、リンク攻撃、位置情報・閲覧履歴からの再識別事例、匿名化神話の批判

メンバーシップ推論攻撃 — 学習データ含有の推定リスク

出力信頼度からの訓練データ推定、シャドウモデル、過学習との関係、医療データでの被害想定、防御策

モデル反転と訓練データ復元 — モデルから元データを引き出す攻撃

顔画像の復元、言語モデルの記憶と逐語出力、抽出攻撃、個人情報のリグルジテーション、緩和手法

データガバナンス — 収集から廃棄までの管理体制

データ来歴管理、アクセス制御、保持期間、目的外利用の防止、データ管理者の役割、ライフサイクル文書化

同意とデータ収集の倫理 — インフォームドコンセントの設計

オプトインとオプトアウト、同意疲れ、ダークパターン、スクレイピングデータの同意問題、二次利用の限界

監視技術と市民的自由 — 常時監視社会のリスク

公共空間の顔認識、行動追跡、萎縮効果、監視資本主義批判、比例原則、市民監視への民主的統制

生体認証の規制動向 — 顔・声・歩容認識の法的制約

遠隔生体識別の禁止・制限論、自治体レベルの顔認識禁止条例、法執行利用の例外、生体情報の特別保護

採用・人事AIの偏り — 雇用機会に関わる自動評価の危うさ

履歴書スクリーニングの性別偏り、過去採用データの再生産、動画面接解析への批判、雇用差別法との接点

与信スコアリングの公平性 — 金融アクセスとアルゴリズム差別

信用履歴の乏しい層の排除、代替データ利用の是非、説明義務、公正貸付規制、限度額の性別格差論争

医療AIの公平性 — 診断・資源配分アルゴリズムの偏り

医療費を重症度代理とした偏りの実証、皮膚画像データの肌色偏在、集団別性能検証、臨床導入時の監視

刑事司法とアルゴリズム — 保釈・量刑・警察活動への利用

リスク評価ツール、予測的警察活動の地域偏向、適正手続の保障、透明性要求、司法判断の自動化限界

教育・試験アルゴリズムの公正 — 成績推定と選抜の自動化問題

2020年英国の成績算定アルゴリズム騒動、学校規模による格差、自動採点の妥当性、教育データの扱い

ターゲティング広告と差別 — 配信最適化が生む機会の偏り

求人・住宅広告の属性別配信、広告オークションの偏り増幅、排除的ターゲティング規制、調査報道事例

推薦システムとフィルターバブル — 情報接触の偏りと分極化

エコーチェンバー、エンゲージメント最適化の弊害、過激化経路の研究、多様性指標、セレンディピティ設計

ディープフェイクと合成メディア — 偽動画・偽音声の脅威と対策

顔交換・音声クローン技術の悪用、非同意的画像生成、検出技術、電子透かし、来歴証明（C2PA）の取り組み

生成AIのコンテンツ倫理 — 生成物の害と利用規範

有害コンテンツ生成、ハルシネーションによる誤情報、なりすまし、生成物表示義務、利用規約と許容用途設計

大規模言語モデルの社会的バイアス — テキスト生成に現れる偏見

職業と性別の固定観念、宗教・民族への偏見表出、毒性評価ベンチマーク、多言語間の性能格差、緩和の限界

前処理によるバイアス緩和 — 学習前のデータ調整手法

リウェイティング、リサンプリング、属性のマスキング、公平表現学習、データ拡張による少数群補強

学習時の公平性制約 — 目的関数に公平性を組み込む手法

公平性正則化、制約付き最適化、敵対的デバイアシング、表現の属性非依存化、精度と公平性の両立

後処理による補正 — 学習済みモデル出力の調整

群別閾値調整、キャリブレーション補正、拒否オプション分類、スコア変換、運用中モデルへの適用容易性

公平性評価ツールキット — 偏り検査を支える公開ソフトウェア

AI Fairness 360、Fairlearn、What-If Tool、指標の一括計算、緩和アルゴリズム実装、実務への組み込み

バイアス監査の実務 — 組織でのバイアス検査プロセス設計

保護属性の定義、評価データ整備、集団別性能表、閾値分析、是正計画、継続的モニタリングと再監査

単語埋め込みのバイアス — 分散表現に刻まれた固定観念

職業語と性別語の幾何的偏り、WEAT検定、アナロジー課題での偏見、埋め込みデバイアスとその限界

RLHFとアラインメント — 人間の選好によるモデル調整

人間フィードバックからの強化学習、報酬モデル、選好データの偏り、無害性と有用性の緊張、価値の多元性

レッドチーミング — 敵対的視点での安全性検査

ジェイルブレイク探索、プロンプトインジェクション、有害出力の体系的探索、脆弱性報告、外部専門家の動員

コンテンツモデレーション — 有害情報の検出と削除の倫理

自動検出と人間審査の分担、過剰削除と表現の自由、文脈依存性、モデレータの心理的負担、異議申立て制度

安全性評価とベンチマーク — 有害性・偏りの標準化された測定

毒性・偏見・誤情報の評価セット、危険能力評価、ベンチマーク汚染問題、評価の妥当性、公開リーダーボード

国際的なAI倫理原則 — OECD・UNESCOなどの合意文書

OECD AI原則、UNESCO AI倫理勧告、G7・G20での議論、人間中心・透明性・頑健性など共通原則の系譜

EU AI法 — リスクベース規制の枠組み

禁止用途、高リスクAIの適合性評価、透明性義務、汎用AIモデル規定、罰則、域外適用とブリュッセル効果

GDPRと自動意思決定 — 個人データ保護法制とAI

22条の自動処理のみに基づく決定、プロファイリング規制、データ最小化、忘れられる権利と学習済みモデル

NIST AIリスク管理フレームワーク — 米国発の自主的管理指針

統治・マッピング・測定・管理の4機能、信頼できるAIの特性定義、組織導入プロファイル、国際整合

AIマネジメントの国際標準 — ISO/IEC規格による体制整備

ISO/IEC 42001マネジメントシステム、バイアス関連技術報告書、用語標準、認証制度、調達要件への波及

日本のAIガバナンス — 原則からソフトローまでの枠組み

人間中心のAI社会原則、AI事業者ガイドライン、アジャイルガバナンス論、個人情報保護法との関係

企業のAI倫理体制 — 社内ガバナンスと倫理委員会

倫理審査委員会、責任あるAIチーム、リリース前審査、倫理原則の社内規程化、内部告発と研究者の独立性

専門職倫理綱領 — 計算機専門家の行動規範

ACM倫理綱領、IEEE倫理綱領、危害回避・誠実性・公正の条項、技術者の内部異議、綱領の実効性論争

倫理的設計の方法論 — 価値を設計に埋め込むアプローチ

価値敏感設計、IEEEの倫理的設計文書、プライバシー・バイ・デザイン、倫理チェックリスト、参加型設計

アシロマAI原則 — 研究コミュニティ発の指針

2017年会議で採択された23原則、研究文化・倫理と価値・長期的課題の三部構成、署名運動と影響力

規範倫理学とAI — 功利主義・義務論・徳倫理の応用

帰結主義的な効用最大化、義務論的制約、徳倫理と性格、原則主義の限界、応用倫理としてのAI倫理の方法

自動運転の倫理的ジレンマ — 事故時の判断と責任

トロッコ問題の応用、Moral Machine実験の文化差、衝突時の優先順位、メーカー責任、倫理設定の是非

責任の空隙 — 自律システムの帰責問題

開発者・運用者・利用者間の責任分配、多手問題、過失認定の困難、製造物責任、保険による損害分配

人間の監督（Human-in-the-Loop） — 自動化と人間判断の設計

承認型・監視型・事後審査型の監督形態、自動化バイアス、警報疲れ、有意義な人間関与の要件、最終決定権

自律型兵器システム — 致死判断の自動化をめぐる国際論争

LAWSの定義論争、国連CCWでの議論、有意義な人間の制御、禁止条約運動、軍民両用技術の統制

労働と自動化の倫理 — 雇用への影響と公正な移行

タスク代替と職業消失予測、スキル陳腐化、再訓練政策、労働監視アルゴリズム、ギグワークの評価制御

AIの環境負荷 — 学習・推論の資源消費と持続可能性

大規模学習の電力消費と炭素排出、データセンターの水利用、効率化研究、環境コストの報告と透明化

デジタル包摂とアクセシビリティ — 恩恵の偏在を防ぐ設計

デジタルデバイド、障害者支援技術としてのAI、低資源言語への対応、高齢者の利用障壁、包摂的設計原則

グローバルサウスとAI — 資源・データの非対称性

データコロニアリズム批判、低所得国でのAI導入課題、多国籍企業への依存、地域主導のAI開発運動

アノテーション労働とゴーストワーク — AIを支える見えない労働

データラベリングの外注構造、低賃金問題、有害コンテンツ審査の心理的負荷、労働条件の透明化要求

アルゴリズム影響評価 — 導入前のリスク評価手続

公共部門でのAIA義務化動向、利害関係者参加、人権影響評価、評価結果の公開、環境影響評価との類比

透明性報告と情報公開 — 運用実態の定期的な開示

削除件数・誤検出率の公表、政府請求の開示、公共調達アルゴリズムの登録簿、営業秘密との調整

開発文書化とトレーサビリティ — 意思決定の追跡可能性確保

実験記録、モデルバージョン管理、データ来歴、変更履歴の監査証跡、再学習時の性能退行検知、責任追跡

機械学習研究の再現性 — 結果検証を支える公開慣行

コード・データ・シード公開、再現性チェックリスト、報告基準、計算資源格差による検証困難、追試文化

ベンチマークの限界と偏り — 評価データ自体が抱える問題

データセットの偏在、ショートカット学習、リーク・汚染、ベンチマーク至上主義批判、構成概念妥当性

大規模モデル批判の系譜 — 規模拡大路線への倫理的異議

確率的オウム論文の論点、環境負荷・データ偏り・意味理解の欠如の指摘、研究発表をめぐる企業内対立

AI研究の研究倫理 — 人間対象研究と公開判断

倫理審査（IRB）、人間参加実験の同意、公開データの人格権、倫理声明の義務化、学会の倫理審査制度

公開とデュアルユース — モデル公開の利益とリスクの均衡

オープンウェイト公開論争、悪用可能性評価、段階的公開、責任ある開示、研究の自由と拡散リスク

学習データと著作権 — 生成AI時代の知的財産問題

テキスト・データマイニング例外、フェアユース論争、作風模倣、権利者訴訟の動向、オプトアウト機構

肖像・声・パブリシティ権 — 人格的特徴の無断利用問題

声優・俳優の声のクローン、故人の再現、なりすまし生成、同意と対価、人格権保護の立法動向

対話AIの倫理事故 — チャットボット暴走の教訓

2016年Tayの差別発言学習事件、擬人化への過度の信頼、依存・愛着の問題、脆弱な利用者への配慮設計

感情認識の科学的妥当性 — 表情から内面を推定する限界

基本感情理論への批判、文化差、採用・教育での感情分析利用の問題、疑似科学批判、規制の禁止対象化

人間とAIの信頼較正 — 過信と不信の適正化

自動化バイアス、アルゴリズム嫌悪、信頼の較正、説明が信頼に与える影響、依存度の実験的測定

不確実性の定量化と伝達 — 予測の確からしさを正直に示す

確率キャリブレーション、予測区間、コンフォーマル予測、選択的予測と棄却、不確実性の可視化設計

頑健性と分布シフト — 環境変化で性能が崩れる問題

共変量シフト、ドメイン外検出、時間経過による劣化、ストレステスト、運用監視と再学習の判断基準

敵対的サンプル攻撃 — 微小摂動でモデルを欺く脅威

摂動画像による誤分類、物理世界攻撃、回避攻撃、敵対的学習による防御、標識誤認など安全への含意

データポイズニングとバックドア — 学習過程への混入攻撃

訓練データ汚染、トリガー付きバックドア、サプライチェーン攻撃、公開データセットの改竄検知、防御策

説明の品質評価 — 説明手法自体の信頼性検証

忠実性と納得性の区別、削除ベース評価、説明の頑健性、健全性チェック、人間実験による有用性測定

FAccT研究コミュニティ — 公平性・説明責任・透明性の学術動向

ACM FAccT会議、学際的方法論、批判的アルゴリズム研究、産学の緊張関係、社会技術システム観の普及

AI倫理教育とリテラシー — 開発者・市民への倫理教育

計算機科学カリキュラムへの倫理統合、ケーススタディ教材、市民向けAIリテラシー、批判的思考の育成

AIと民主主義 — 選挙・世論形成への影響

マイクロターゲティング政治広告、ボットによる世論操作、選挙偽情報、プラットフォーム規制、熟議の劣化

ニューロテクノロジーと精神的プライバシー — 脳データ時代の権利論

脳波・神経データの保護、ニューロライツ議論、認知的自由、思考の推定技術、脳コンピュータ接続の倫理

ロボット倫理 — 身体を持つAIと人間の共生規範

アシモフのロボット三原則の文学的起源、介護・接客ロボットの倫理、擬人化設計の是非、物理的安全基準

存亡リスクと長期安全性 — 高度AIの制御可能性論争

超知能論、制御問題、能力評価と危険閾値、悲観論と懐疑論の対立、長期リスクと目前の害の優先順位論争

AIの道徳的地位 — 機械への権利付与をめぐる哲学論争

意識と感覚の帰属問題、道徳的患者性、ロボット市民権論争、擬人化の錯覚、法人格付与の是非

価値アラインメント理論 — 人間の価値を機械に整合させる研究

報酬ハッキング、目標の誤一般化、逆強化学習による価値推定、価値の多元性と集約、規範の明文化困難

機械倫理（マシンエシックス） — 道徳判断を行う人工エージェント

人工道徳エージェントの設計論、トップダウン規則とボトムアップ学習、道徳判断の計算モデル、実装限界

AI倫理の思想史 — 計算機批判の古典から現代へ

WeizenbaumのELIZA体験と技術批判、ウィーナーのサイバネティクス倫理、初期計算機倫理学の系譜

倫理・バイアス・透明性の基礎 — 退避・古典資料archive

旧版の倫理ガイドライン、失効した規制草案、歴史的論争の一次資料など、参照価値の残る退避資料の保管区分