AI倫理指針（EUAIAct,OECD原則）

AI倫理指針（EUAIAct,OECD原則） — 概要

EU AI Act・OECD AI原則を軸に、公平性、透明性、説明責任、安全性、各国規制と国際規範を概観する入門ガイド

EU AI Act — リスクベース規制の全体構造

許容不可・ハイリスク・限定リスク・最小リスクの4階層、域外適用、2024年成立の世界初包括的AI法

AI事業者ガイドライン — 総務省・経産省の統合指針

開発者・提供者・利用者の三主体区分、10原則、旧AI開発ガイドラインとAI利活用ガイドラインの統合

AI倫理の中核価値 — 公平性・透明性・説明責任

バイアス排除、判断根拠の開示、責任の所在、人間の尊厳、各国指針に共通する基本価値の整理

OECD AI原則 — 2019年勧告の5原則と実装

包摂的成長、人間中心の価値、透明性、頑健性、説明責任の5原則、G20 AI原則への展開、2024年改訂

EU AI Act 禁止AI — 許容できないリスクの類型

サブリミナル操作、脆弱性の悪用、公的機関によるソーシャルスコアリング、公共空間のリアルタイム遠隔生体識別

EU AI Act ハイリスクAI — 附属書IIIの対象分野

生体識別、重要インフラ、教育、雇用、必須サービス、法執行、出入国管理、司法の8分野と該当要件

EU AI Act ハイリスクAIの義務 — 提供者の遵守事項

リスク管理システム、データガバナンス、技術文書、ログ記録、人間の監督、正確性・頑健性・サイバーセキュリティ

EU AI Act 汎用目的AIモデル — GPAI規律

技術文書作成、著作権方針、学習データ概要の公表、システミックリスクモデルへの追加義務、実践規範

EU AI Act 透明性義務 — 限定リスクAIの表示

チャットボットのAI明示、合成コンテンツの機械可読表示、ディープフェイクの開示、感情認識の通知義務

EU AI Act 執行体制 — AI Officeと制裁

欧州委員会AI Office、各国市場監視当局、AI委員会、違反類型別の制裁金上限、段階的施行スケジュール

適合性評価とCEマーキング — EU上市の手続

自己評価と第三者認証機関(Notified Body)、EU適合宣言、CEマーク貼付、EUデータベース登録、上市後監視

AI規制サンドボックス — 実証実験の法的枠組み

EU AI Actの規制サンドボックス設置義務、中小企業支援、監督下での実地試験、日本・英国等の類似制度

欧州評議会AI枠組条約 — 人権・民主主義・法の支配

2024年採択の国際条約、締約国の義務、公的部門への適用、EU外諸国への開放、人権影響評価

GDPR とAI — 個人データ保護法制との接続

自動化された意思決定への異議権(22条)、プロファイリング規制、データ最小化、目的拘束、DPIAとの関係

G7広島AIプロセス — 高度AIシステムの国際指針

2023年G7合意、開発者向け国際指針と行動規範、リスク評価、透明性報告、OECDによるモニタリング

UNESCO AI倫理勧告 — 2021年の世界規範

193カ国採択、人権・環境・多様性の価値、準備状況評価手法(RAM)、倫理影響評価、加盟国の実装報告

国連とAIガバナンス — グローバル対話の枠組み

AI諮問機関報告書、グローバル・デジタル・コンパクト、総会決議、国際協調と能力構築、格差是正

米国のAI政策 — 大統領令と連邦機関の対応

AI権利章典の青写真(Blueprint for an AI Bill of Rights)、2023年AI大統領令、OMB指針、州法の動き

NIST AI RMF — リスク管理フレームワーク

Govern・Map・Measure・Manageの4機能、信頼性特性7項目、プレイブック、生成AIプロファイル

日本の人間中心のAI社会原則 — 2019年閣議決定基盤

人間中心、教育、プライバシー、セキュリティ、公正競争、公平性・説明責任・透明性、イノベーションの7原則

英国のAI規制アプローチ — セクター別・原則ベース

2023年白書の5原則、既存規制当局による運用、法制化を急がない比例的アプローチ、AI安全研究所の設置

中国のAI規制 — アルゴリズムと生成AIの管理

アルゴリズム推薦管理規定、ディープ合成規定、生成AIサービス管理暫定弁法、事前届出とラベル表示義務

各国AI法制の比較 — 規制モデルの類型学

EU包括法型、米国分野別型、英国原則型、中国行政管理型、日本ソフトロー型の比較軸と収斂・分岐

AI安全サミット — ブレッチリー宣言と後続会合

2023年英国開催、フロンティアAIリスクの国際合意、ソウル・パリへの継続、企業の安全性公約

AI安全研究所(AISI) — 各国評価機関の設立

英国・米国・日本等のAI Safety Institute、フロンティアモデル評価、国際ネットワーク、標準的評価手法の開発

アルゴリズムバイアス — 差別の発生機構

学習データの偏り、ラベル付けの偏見、代理変数、歴史的差別の再生産、フィードバックループによる増幅

公平性の数理的定義 — 指標間のトレードオフ

デモグラフィックパリティ、機会均等、較正、個人公平性、複数基準の同時達成不可能性定理

バイアス緩和技術 — 前処理・処理中・後処理

リウェイティング、データ拡張、公平性制約付き学習、敵対的デバイアス、閾値調整、緩和手法の限界

説明可能AI(XAI) — 判断根拠の提示手法

LIME、SHAP、特徴量重要度、反実仮想説明、注意機構の可視化、大域的説明と局所的説明の区別

解釈可能性と説明の権利 — 法的要請との接続

GDPR説明を受ける権利の議論、ブラックボックス問題、本質的に解釈可能なモデル、説明の対象者別設計

透明性の文書化 — モデルカードとシステムカード

モデルカードによる性能・想定用途・限界の開示、システムカード、評価条件の明記、更新履歴の管理

データセットの文書化 — データシートと来歴

Datasheets for Datasets、収集方法・同意・偏りの記録、データステートメント、データ来歴の追跡

アカウンタビリティ — 責任の所在と分配

開発者・提供者・利用者の責任分界、責任のギャップ問題、多数の手の問題、組織的・法的・道義的責任

AI監査 — 第三者評価の方法論

内部監査と外部監査、バイアス監査、NYC市の採用AI監査法(Local Law 144)、監査基準と監査人の独立性

ISO/IEC 42001 — AIマネジメントシステム規格

2023年発行のAIMS認証規格、PDCAサイクル、リスクと影響評価、ISO/IEC 23894等の関連規格群

AI標準化 — ISO/IEC JTC1 SC42と欧州標準

用語・信頼性・バイアス・ガバナンスの国際規格、CEN/CENELECによるAI Act整合規格、標準化戦略

アルゴリズム影響評価 — 公共部門の事前審査

カナダ政府のAIA質問票、リスクレベル別の要件、人権影響評価、DPIAとの併用、公表による説明責任

リスクアセスメント実務 — 特定・分析・評価・対応

ユースケース起点のリスク特定、発生確率と影響度、残余リスクの受容判断、ライフサイクル全体の再評価

人間の監督 — Human-in-the-loopの設計

HITL・HOTL・HIC(human-in-command)の区分、介入権限、停止ボタン、監督者の訓練と権限の実質性

自動化バイアス — 人間の過信という弱点

機械出力への過度の追従、警報疲れ、確認の形骸化、意味ある人間の関与を担保する制度・UI設計

プライバシー保護技術 — PETsの体系

差分プライバシー、連合学習、秘密計算、準同型暗号、合成データ、匿名化と再識別リスクの評価

差分プライバシー — ノイズ付加による数学的保証

イプシロン・デルタ保証、ラプラス機構、プライバシー予算、国勢調査への応用、有用性との均衡

連合学習 — データを動かさない分散学習

端末上学習と勾配集約、セキュアアグリゲーション、医療・金融での活用、勾配からの情報漏洩リスク

顔認識技術の倫理 — 監視と誤認の問題

人種・性別による精度差の研究、誤認逮捕事例、公共空間監視の萎縮効果、自治体による利用禁止条例

遠隔生体識別の規制 — EU AI Actの厳格要件

リアルタイム識別の原則禁止と例外3類型、事後識別の司法承認、事前届出、加盟国の裁量と論争

感情認識AI — 科学的妥当性への疑義

表情と感情の対応関係の不確かさ、文化差、EU AI Actの職場・教育での禁止、採用面接での利用批判

ソーシャルスコアリング — 包括的信用評価の禁止

行動データによる市民格付け、文脈外の不利益扱い、EU AI Actの禁止規定、社会信用システムを巡る議論

予測的警察活動 — バイアス増幅の懸念

犯罪多発地区予測と個人リスク予測、過剰パトロールの循環、透明性欠如、EU AI Actでの個人予測禁止

再犯予測アルゴリズム — COMPAS論争

量刑・保釈判断支援、人種間の偽陽性率格差を巡る報道と反論、較正と誤り率の対立、司法の説明責任

採用・人事AIの公平性 — 雇用差別の防止

履歴書スクリーニングの性別バイアス事例、動画面接分析への批判、雇用機会均等法制との関係、監査義務

信用スコアリングAI — 金融包摂と差別の両面

代替データ活用、レッドライニングの再現リスク、公正貸付法制、説明義務、薄いファイル層への包摂効果

医療AIの倫理 — 診断支援と臨床導入

SaMD(プログラム医療機器)規制、臨床検証、医師の最終判断、健康データの偏りによる集団間性能差

自動運転の倫理 — 事故責任と価値判断

トロッコ問題の限界、ドイツ倫理委員会20原則、SAE自動化レベル、運転者・製造者・保険の責任分配

自律型致死兵器(LAWS) — 軍事AIの国際議論

CCW政府専門家会合、有意義な人間の制御、禁止条約を求める運動、デュアルユース技術の輸出管理

コンテンツモデレーションAI — 表現の自由との緊張

有害コンテンツ自動検出、過剰削除と検出漏れ、文脈・言語の偏り、EUデジタルサービス法(DSA)の義務

レコメンドシステムの倫理 — 注意経済の副作用

フィルターバブル、エコーチェンバー、エンゲージメント最適化と過激化、DSAの推薦透明性義務

ディープフェイク — 合成メディアの脅威と対策

非同意的性的画像、選挙偽情報、音声詐欺、検出技術の限界、表示義務と作成規制の各国法制

AI生成物の来歴証明 — 電子透かしとC2PA

コンテンツ認証標準C2PA、メタデータ来歴、統計的透かし、除去攻撃への耐性、プラットフォーム表示

生成AIと著作権 — 学習と出力の権利問題

学習データのテキストマイニング例外、日本著作権法30条の4、記憶再生出力、AI生成物の著作物性

生成AIと誤情報 — ハルシネーションの統制

事実性評価ベンチマーク、検索拡張生成(RAG)による接地、出典明示、利用規約と免責、名誉毀損リスク

AIと選挙・民主主義 — 世論操作への対処

マイクロターゲティング広告、ボットによる世論偽装、政治広告の透明性規制、選挙管理機関のガイダンス

AIと労働 — 雇用代替と移行支援

タスクベースの自動化影響分析、スキル再教育、労使協議、アルゴリズム管理下のギグワーカー保護

職場のアルゴリズム管理 — 労働者監視の規律

勤務監視ツール、自動シフト配分、評価・解雇の自動化、EUプラットフォーム労働指令、労働法との交錯

AIと教育の倫理 — 学習支援と公正な評価

自動採点の偏り、生成AIと剽窃・試験不正、プロクタリング監視への批判、教育データのプライバシー

子どもとAI — 年齢に配慮した設計

年齢確認、ダークパターン禁止、UNICEFの子どものためのAI政策ガイダンス、教育・玩具AIの安全基準

AIとアクセシビリティ — 包摂的設計

音声認識・画像説明による障害者支援、訓練データにおける少数者の過少代表、ユニバーサルデザイン原則

AIの環境影響 — 計算資源とエネルギー

学習・推論の電力消費、データセンターの水使用、炭素排出の報告、効率化技術、グリーンAIの提唱

AIセーフティ — アライメント問題の基礎

目的関数の誤指定、報酬ハッキング、道具的収束、スケーラブル監督、RLHFと憲法AI等の整合手法

敵対的攻撃と頑健性 — 回避攻撃への防御

敵対的サンプル、摂動によるご認識、物理的攻撃(標識改変)、敵対的訓練、認証済み頑健性の研究

データポイズニングとバックドア — 学習過程の汚染

訓練データ改竄、トリガー埋め込み、サプライチェーン攻撃、公開データセットの汚染、検知と除去

モデルへのプライバシー攻撃 — 情報漏洩の類型

メンバーシップ推論、モデル反転、訓練データ抽出、モデル窃取、プロンプトインジェクション、防御策

レッドチーミング — 危険能力・悪用の事前評価

脱獄プロンプト、生物・サイバー悪用能力評価、外部専門家による敵対的テスト、大統領令・実践規範の要請

AIインシデント報告 — 事故事例の集約と学習

AI Incident DatabaseやOECDモニターによる事例集約、重大インシデント報告義務、航空安全に学ぶ制度設計

信頼できるAI(Trustworthy AI) — EU HLEGの7要件

人間の主体性、頑健性、プライバシー、透明性、多様性・公平性、社会環境福祉、説明責任と評価リストALTAI

アシロマAI原則 — 2017年の研究者合意

Future of Life Institute主催会議の23原則、研究文化、価値整合、能力注意、軍拡競争回避の提言

モントリオール宣言 — 責任あるAI開発の市民的合意

2018年公表、幸福・自律・プライバシー・連帯・民主的参加・公平・多様性等の原則、市民参加型の策定過程

IEEEの倫理設計 — Ethically Aligned Design

IEEE Global Initiative、P7000シリーズ標準、価値に基づく設計手法、幸福度指標、認証プログラムの試み

企業のAI倫理原則 — 自主的コミットメント

大手技術企業の公表原則の比較、倫理委員会の設置と解散事例、ホワイトハウス自主的公約、実効性の検証

倫理原則から実践へ — principles-to-practiceの課題

80超の原則文書の収斂分析、抽象原則と開発現場の乖離、チェックリスト化、倫理ウォッシングへの批判

AI倫理の組織体制 — 倫理委員会と審査プロセス

社内倫理審査会、リスク分類別の審査フロー、倫理責任者(AI Ethics Officer)、内部通報、研究公開の判断

AIと人権 — 国際人権法アプローチ

国連ビジネスと人権指導原則、人権デューデリジェンス、国連人権高等弁務官報告、救済へのアクセス

AI倫理の哲学的基盤 — 規範理論からの照射

義務論、功利主義、徳倫理、ケア倫理、ロールズ的公正、責任概念の再構成、価値多元主義と文化差

機械倫理 — 人工道徳エージェントの研究

トップダウン型・ボトムアップ型の道徳実装、道徳的地位の議論、アシモフのロボット三原則の再検討

AIの法人格論 — 電子人格と権利主体性

欧州議会の電子人格提案と撤回、ロボット税の議論、AIの発明者性(DABUS訴訟)、法人格否定の主流見解

AIと製造物責任 — EU責任法制の現代化

改正製造物責任指令のソフトウェア包含、立証負担の軽減、開示命令、AI責任指令案の撤回、保険の役割

生体認証・監視技術の輸出管理 — デュアルユース規制

EUデュアルユース規則の監視技術規制、人権条項、権威主義国への輸出懸念、Wassenaarアレンジメント

公共調達とAI — 政府調達基準による統治

調達仕様への倫理要件組込み、ベンダー評価、世界経済フォーラムのAI調達ガイドライン、透明性台帳

自治体・行政のAI利用指針 — 現場ガイドライン

自治体のチャットボット・審査支援の運用基準、アルゴリズム登録簿(アムステルダム・ヘルシンキ)、公開原則

AIリテラシーと倫理教育 — 人材育成の要請

EU AI Act第4条のAIリテラシー義務、大学カリキュラム、技術者倫理教育、市民向け啓発、資格・研修制度

ステークホルダー参加 — 参加型AIガバナンス

市民会議・熟議型パネル、影響を受ける当事者の関与、参加型デザイン、パブリックコメント、共同設計手法

グローバルサウスとAI倫理 — 公平な国際秩序

データ植民地主義批判、アノテーション労働の労働条件、言語資源の偏り、アフリカ連合等の地域AI戦略

先住民データ主権 — 集団的権利とAI

CAREデータ原則、集団的同意、伝統的知識の保護、言語復興へのAI活用、データガバナンスの自己決定

ニューロテクノロジーと神経権 — 脳データの保護

ブレイン・コンピュータ・インタフェース、精神的プライバシー、チリの神経権憲法改正、UNESCOの検討

AI存亡リスク論争 — 長期主義と現在害の対立

超知能リスクの主張、効果的利他主義、現在の害(差別・搾取)重視派の批判、公開書簡と開発停止要求論争

AGIガバナンス構想 — 国際機関設立の提案

IAEA型監視機関、CERN型共同研究、計算資源(コンピュート)ガバナンス、モデル登録制、検証可能性の課題

オープンソースモデルの規制論 — 公開の便益と危険

重み公開の悪用リスクと研究促進効果、EU AI Actのオープンソース例外、オープンウォッシング批判

AI保証エコシステム — 認証・保険・ラベル

英国のAI assurance構想、第三者認証市場、AI保険商品、信頼性ラベル、監査人の資格制度の萌芽

AI倫理の研究コミュニティ — FAccT等の学術動向

ACM FAccT会議、AIES会議、公平性・説明責任・透明性研究、学際連携、企業研究者の独立性を巡る議論

AI倫理指針（EUAIAct,OECD原則） — 退避・古典資料archive

旧版ガイドライン、撤回された法案・原則文書、歴史的な倫理綱領草案、改訂前のOECD勧告等の退避保管