公平性・バイアス検出設計

公平性・バイアス検出設計 — 概要

機械学習の公平性定義、バイアスの発生源と検出手法、緩和技術、監査・ガバナンスまでを扱う入門ガイド

公平性定義の体系 — 集団・個人・因果の三系統整理

集団公平性、個人公平性、因果的公平性の分類、定義間の関係、選択基準、20以上の定義の整理

デモグラフィックパリティ — 群間で予測率を揃える基準

統計的均等、受容率の群間一致、独立性基準、ベースレート差の問題、適用場面と限界

イコライズドオッズ — 誤り率を群間で均等化する基準

真陽性率と偽陽性率の群間一致、分離性基準、条件付き独立、混同行列との対応関係

機会均等基準 — 有資格者の採択率均等に絞る定義

Equal Opportunity、真陽性率のみの均等化、融資・採用への適用、イコライズドオッズとの違い

較正（キャリブレーション） — 予測確率の群間整合性

予測スコアと実際の発生率の一致、群別較正曲線、信頼度図、十分性基準、リスクスコア評価

個人公平性 — 類似する個人への類似した処遇

Lipschitz条件、類似度距離の設計、タスク固有メトリック、集団公平性との緊張関係

反実仮想公平性 — 属性を変えた仮想世界での不変性

counterfactual fairness、構造的因果モデル、介入と反実仮想、属性変更下での予測不変性

公平性の不可能性定理 — 複数基準の同時達成不能

較正と均等誤り率の両立不能、ベースレート差の下での証明、基準間トレードオフの理論

保護属性の設計 — 法的・倫理的カテゴリの特定

性別、人種、年齢、障害、宗教、性的指向、属性の取得可否、非取得下での公平性評価

代理変数問題 — 間接的に属性を漏らす特徴量

郵便番号、氏名、購買履歴による属性推定、redlining、proxy検出、特徴量削除の限界

歴史的バイアス — 過去の差別構造がデータに残る問題

過去の不平等な判断の学習データ化、世界自体の偏り、正確な反映と不公正の区別

標本抽出バイアス — データ収集時の代表性の欠如

サンプリング偏り、選択バイアス、母集団とデータの乖離、少数群の過少代表、収集設計

ラベルバイアス — アノテーションに混入する偏見

アノテータの主観、代理ラベル問題、逮捕記録vs犯罪、ラベラー間一致率、多様なラベラー確保

測定バイアス — 特徴量の測定精度の群間差

センサーや検査の精度差、特徴量の意味の群間差、測定誤差の系統的偏り、構成概念妥当性

集約バイアス — 単一モデルで多様な集団を扱う歪み

aggregation bias、群ごとの関係性の違いの無視、シンプソンのパラドックス、群別モデルの検討

評価バイアス — ベンチマーク自体の偏りによる誤評価

評価データの代表性欠如、特定群向けベンチマーク偏重、テストセットの属性分布検査

デプロイバイアス — 想定外の運用による公平性の毀損

設計時想定と実運用の乖離、目的外利用、運用者の解釈差、意思決定文脈のズレの監視

フィードバックループ — 予測が現実を歪める自己強化

予測的警備の巡回集中、推薦の選好強化、逐次的データ汚染、ループ検出とシミュレーション

差別的効果（disparate impact） — 結果の格差による判定

80%ルール（4/5ルール）、採択率比、意図によらない差別、業務上の必要性の抗弁

差別的取扱い（disparate treatment） — 意図的な直接差別

保護属性の明示的使用、意図的差別の立証、属性のモデル入力可否、blindnessの限界

統計的検定によるバイアス検出 — 有意差の定量評価

カイ二乗検定、二項検定、置換検定、多重比較補正、効果量、検出力と標本サイズ設計

公平性メトリクスの選択指針 — 文脈に応じた基準決定

懲罰的vs支援的介入、偽陽性と偽陰性の被害比較、ステークホルダー分析、意思決定木型ガイド

混同行列ベースの群間比較 — 誤り率の分解分析

群別のFPR、FNR、PPV、NPVの比較、格差指標の算出、閾値依存性、ROC曲線の群間重ね合わせ

スライス分析 — サブグループ別性能の網羅的検査

属性組合せごとの精度分解、最悪群性能、隠れた劣化スライスの自動発見、可視化ダッシュボード

交差性（インターセクショナリティ） — 複合属性の格差

性別×人種等の組合せ群、単一属性分析の盲点、小標本サブグループ、交差群の網羅的評価

データセット監査 — 学習データの偏り事前検査

属性分布、欠測パターン、ラベル分布の群間差、出所の文書化、収集手続きのレビュー

前処理型緩和 — 学習前のデータ変換による是正

リウェイティング、リサンプリング、ラベル修正（massaging）、属性除去、disparate impact除去器

公平表現学習 — 属性情報を除去した中間表現の獲得

fair representation learning、変分オートエンコーダ活用、属性予測不能な埋め込み、情報理論的評価

学習中制約型緩和 — 目的関数への公平性制約の組込み

正則化項の追加、制約付き最適化、ラグランジュ緩和、公平性ペナルティ、exponentiated gradient法

敵対的デバイアス — 属性予測器との競合による除去

adversarial debiasing、予測器と敵対者の同時学習、勾配反転、属性情報の表現からの除去

後処理型緩和 — 学習済みモデル出力の調整

群別閾値調整、reject option classification、較正後補正、モデル再学習不要という利点と限界

公平性と精度のトレードオフ — パレート最適の探索

精度低下の定量化、パレートフロンティア描画、トレードオフが小さい場合の特定、費用便益整理

因果推論に基づく公平性 — 因果グラフでの差別経路分析

構造的因果モデル、経路特異的効果、直接差別と間接差別の分解、媒介分析、識別可能性

属性推定の防止 — 表現からの属性漏洩対策

属性分類器による漏洩監査、相互情報量最小化、匿名化との関係、逆襲攻撃への耐性評価

ランキングの公平性 — 表示順位と露出の公正配分

位置バイアス、露出の群間配分、fair ranking、上位k件の多様性制約、検索・人材マッチング適用

推薦システムの公平性 — 消費者と提供者の二面市場

ユーザー側とアイテム提供者側の公平性、人気バイアス、フィルターバブル、多様性・新規性指標

単語埋め込みのバイアス — 分布表現に宿る固定観念

WEATテスト、職業と性別の連想、アナロジー課題での偏り、埋め込みデバイアス手法とその限界

大規模言語モデルのバイアス — 生成テキストの偏見評価

ステレオタイプ生成、毒性の群間差、ペルソナ依存の応答差、ベンチマークによる体系的測定

顔認識の精度格差 — 肌の色・性別による誤認識率差

Gender Shades研究、商用APIの群間誤り率差、学習データの偏り、監視利用をめぐる論争

音声認識の格差 — 方言・アクセント・年齢による性能差

話者属性別の単語誤り率、方言・非母語話者の認識劣化、音声コーパスの多様化、評価設計

機械翻訳のジェンダーバイアス — 性の推定と固定化

無性別言語からの翻訳での職業と性の紐付け、代名詞選択、両性併記出力、評価用テンプレート

画像生成モデルのバイアス — 職業・属性の固定観念再生産

テキストから画像生成での職業と人種・性別の偏った描写、プロンプト介入、生成分布の監査

再犯予測をめぐる論争 — COMPAS事件と基準対立

ProPublica調査、偽陽性率格差vs較正の対立、リスクアセスメント道具の司法利用、透明性要求

採用AIのバイアス — 履歴書スクリーニングの偏り事例

過去の採用実績学習による女性不利の事例、動画面接分析への批判、雇用選考ツールの監査義務化

与信スコアリングの公平性 — 信用リスク評価と金融包摂

信用履歴の薄い層（thin file）、代替データ利用の功罪、貸付差別の検出、説明義務との両立

医療AIの公平性 — 診断・トリアージの群間格差

皮膚疾患画像の肌色偏り、医療費を代理ラベルとした重症度予測の偏り、臨床検証の群別報告

公共部門アルゴリズムの公平性 — 給付・福祉の自動判定

児童福祉リスク評価、給付不正検知の誤判定被害、行政決定の説明責任、住民への通知と救済

教育分野の公平性 — 成績予測・選抜アルゴリズムの偏り

試験代替の成績推定をめぐる混乱、中退予測のラベリング効果、学習支援システムの群間有効性

広告配信の公平性 — ターゲティングによる機会の偏り

求人・住宅広告の属性別配信偏り、最適化アルゴリズム起因のスキュー、配信監査の手法

コンテンツモデレーションの偏り — 検出器の言語・方言差

毒性検出器の方言への過剰反応、少数言語の見逃し、アイデンティティ語の誤フラグ、再較正

検索エンジンのバイアス — 表示順位と情報接触の偏り

検索結果の代表性、オートコンプリートの固定観念、画像検索の職業描写、順位の社会的影響

AI Fairness 360 — IBM発のオープンソース評価基盤

70超の公平性指標と緩和アルゴリズム群、前・中・後処理の統一API、チュートリアルとデモ

Fairlearn — scikit-learn互換の公平性ツールキット

MetricFrameによる群別評価、緩和アルゴリズム、ダッシュボード可視化、Python機械学習への統合

What-If Tool — 対話的なモデル挙動の探索ツール

反実仮想の手動編集、群別性能比較、閾値操作のシミュレーション、TensorBoard統合の可視化

Aequitas — 政策向けバイアス監査レポートツール

群間格差指標の一括算出、公平性の木による基準選択支援、監査レポート生成、行政利用事例

定番ベンチマークデータ — Adult・German Credit等

国勢調査由来の所得予測データ、信用審査データ、COMPASデータ、定番データ依存への批判と代替

モデルカード — モデルの性能・限界の標準的開示文書

Model Cards、想定用途、群別評価結果、倫理的考慮の記載、公開モデルへの添付慣行

データシート — データセットの来歴と特性の文書化

Datasheets for Datasets、収集動機、収集手続き、前処理、推奨用途と非推奨用途の明記

アルゴリズム監査 — 内部・第三者・敵対的監査の設計

監査の独立性、APIプロービング、ソックパペット法、監査アクセス権、監査結果の公表方針

バイアスバウンティ — 外部参加型の欠陥発見プログラム

報奨金による偏り報告の募集、セキュリティのバグバウンティの応用、コンテスト形式の運営設計

差別禁止法とAI — 雇用・与信・住宅分野の法的枠組み

雇用差別禁止、信用機会均等、住宅供給の公正、差別的効果法理のアルゴリズムへの適用

EUのAI規制とリスク分類 — ハイリスクAIへの適合性要求

AI法のリスク階層、ハイリスク用途の要件、データガバナンス条項、適合性評価と市販後監視

AIリスク管理フレームワーク — 公的機関発の管理指針

NIST AI RMFの統治・マップ・測定・管理機能、有害バイアスの分類、組織的リスク管理への統合

国際標準化の動向 — AIバイアスに関する規格策定

ISO/IECのAI管理システム規格、バイアス関連技術報告書、用語の標準化、認証制度への展開

アルゴリズム影響評価 — 導入前のリスク評価制度

AIA、影響を受ける集団の特定、緩和計画の文書化、公共調達での義務化、プライバシー影響評価との対比

人間による監督設計 — human-in-the-loopの実効性

自動化バイアス、形骸化した承認、介入権限と訓練、人間の裁量が偏りを再導入するリスク

説明可能性との接続 — 解釈手法による偏り診断

SHAP・LIMEでの特徴量寄与分析、代理変数の特定、反実仮想説明、説明の群間一貫性検査

透明性と説明責任 — 開示・通知・異議申立ての設計

自動決定の通知、判断理由の説明、異議申立てと人間による再審査、透明性レポートの発行

参加型設計 — 影響を受ける当事者の設計への関与

コミュニティとの協働設計、当事者ヒアリング、価値のトレードオフの共同決定、参加の形骸化防止

アノテーション設計と公平性 — ラベリング工程の品質管理

ガイドライン明確化、ラベラーの多様性確保、不一致の分析、主観課題での多数決の危うさ

バランスドデータ構築 — 偏りを抑えた収集・拡張戦略

層化サンプリング、過少代表群の追加収集、データ拡張、多様性目標の設定と達成度検証

合成データと公平性 — 生成データによる補完と新たな偏り

少数群の合成的増強、生成モデル自体の偏りの継承、プライバシー保護合成データの品質評価

欠測データと公平性 — 群によって異なる欠測機構

MNAR欠測の群間差、補完手法が格差に与える影響、欠測自体が持つ情報、感度分析

分布シフトと公平性 — 運用中のドリフトによる劣化

共変量シフト、ラベルシフト、群構成の変化、公平性指標の経時劣化、再学習トリガー設計

継続的公平性モニタリング — 本番環境の常時監視

群別指標のダッシュボード、アラート閾値、遅延ラベル問題、監視ログの保全と定期レビュー

オンライン実験と公平性 — A/Bテストでの格差評価

実験群への被害の倫理、群別効果の異質性分析、サンプルサイズ配分、実験倫理審査

不確実性と小標本サブグループ — 統計的信頼性の確保

少数群の指標の分散、信頼区間・ブートストラップ、ベイズ推定、格差の有無の慎重な判定

公平性のロバスト性 — 操作・ゲーミングへの耐性

特徴量の戦略的操作、strategic classification、緩和策の頑健性、敵対的な指標ハッキング

プライバシー技術との緊張 — 差分プライバシーの群差影響

ノイズ付加が少数群精度へ与える不均等な影響、属性収集とプライバシーのジレンマ、両立設計

連合学習の公平性 — クライアント間・群間の性能格差

非IIDデータでの性能偏在、クライアント公平性、集約重みの設計、参加インセンティブの偏り

AutoMLへの公平性組込み — 探索目的への制約統合

ハイパーパラメータ探索の多目的化、公平性を含むモデル選択、自動化パイプラインの監査点

転移学習・基盤モデルのバイアス継承 — 事前学習の偏り伝播

事前学習コーパスの偏りの下流タスクへの転移、ファインチューニングでの増幅・緩和、継承の測定

長期的公平性 — 逐次意思決定における動的影響

融資判断が信用力に与える将来影響、動態モデルでの介入評価、短期指標の長期的逆効果

バンディット・強化学習の公平性 — 探索と配分の公正

多腕バンディットでの機会配分、探索コストの偏在、強化学習の報酬設計に潜む偏り

グラフデータの公平性 — ネットワーク構造由来の偏り

ホモフィリーによる偏り増幅、リンク予測の群間格差、グラフニューラルネットのデバイアス

公平なクラスタリング・資源配分 — 教師なし課題への拡張

群バランス制約付きクラスタリング、施設配置の公平性、分割の均衡性指標、組合せ最適化

公平性の哲学的基盤 — 平等論・分配的正義との接続

機会の平等と結果の平等、運の平等主義、ロールズ的格差原理、形式的公平の限界の政治哲学的検討

公平概念の多元性 — 手続的・結果的・関係的公平

手続的公正、分配的公正、当事者の公平感認知、文化差、形式化できない公正の側面

LLMアラインメントと公平性 — 調整過程での偏り制御

RLHFの評価者偏り、レッドチーミングによる偏見の摘出、拒否挙動の群間非対称、憲法的手法

プロンプトベースのバイアス評価 — テンプレート置換テスト

属性語ペアの置換による応答差測定、ステレオタイプ選択課題、評価テンプレート設計の落とし穴

バイアス検出の限界 — 未観測・推定属性の問題

保護属性が取得できない場合の評価、名前や地域からの属性推定の誤差と倫理、限界の明示

公平性研究コミュニティ — 学術会議と研究潮流

FAccT等の学際会議、機械学習主要会議の倫理審査、社会科学との協働、批判的AI研究の系譜

組織ガバナンス — AI倫理委員会と責任体制の構築

倫理委員会の権限設計、責任あるAI原則の社内展開、リスク受容の決裁権限、内部通報経路

公平性教育・研修 — 開発者と利用者のリテラシー育成

大学カリキュラムへの倫理統合、実務者向け研修、ケーススタディ教材、職能資格の動向

障害とアクセシビリティの公平性 — 見落とされがちな属性

支援技術利用者のデータ不足、音声・視覚系AIの障害者への性能差、インクルーシブ設計原則

多言語・低資源言語の公平性 — 言語間の性能格差

高資源言語偏重の学習コーパス、低資源言語の品質劣化、多言語ベンチマーク、言語コミュニティ協働

グローバルな公平性 — 地域格差とデータの非対称性

データ収集と便益配分の地域間不均衡、データ植民地主義批判、現地文脈を欠いた展開の危険

公平性設計チェックリスト — 開発ライフサイクルへの統合

企画・データ・学習・評価・運用各段階の点検項目、責任分担表、リリース判定基準への組込み

公平性・バイアス検出設計 — 退避・古典資料archive

旧版の公平性ガイドライン、廃止された指標定義、過去の監査報告等の退避・アーカイブ領域