人権とAI時代の新課題

人権とAI時代の新課題 — 概要

国際人権条約の基本構造を土台に、監視・差別・労働・企業責任などデジタル技術がもたらす新しい論点を見渡す入門ガイド

人権の基礎概念 — 誰がどのような義務を負うか

尊重と保護と充足の三層の義務、権利の普遍性と不可分性、制限の要件、非差別、漸進的実現と即時義務

世界人権宣言 — 国際人権法の出発点

採択の経緯、市民的政治的権利と経済的社会的文化的権利の並列、慣習法化をめぐる評価、後の条約への影響

自由権規約 — 市民的及び政治的権利の枠組み

生命と自由、拷問の禁止、公正な裁判、表現と集会、プライバシー、緊急時の逸脱、規約人権委員会

社会権規約 — 経済的社会的文化的権利の実現

利用可能な資源の最大限の使用、後退禁止、最低限中核義務、労働と社会保障と健康と教育、報告制度

人権条約の国内実施 — 条約と国内法の関係

直接適用可能性、法律の解釈指針としての利用、判決における援用、留保と解釈宣言、実施のための立法

個人通報制度 — 国際的な救済経路

選択議定書に基づく通報、国内的救済の完了、見解の法的性質、フォローアップ手続、受諾の判断

国内人権機関 — 独立した監視の担い手

パリ原則が求める独立性と多元性、調査と勧告の権限、認証の等級、設置をめぐる各国の状況

普遍的定期的審査 — 相互審査の仕組み

人権理事会における全加盟国の審査、勧告の受入れと留意、市民社会からの情報提供、中間報告

人権の私人間効力 — 企業や私人による侵害

間接適用説、保護義務による構成、国家の実効的措置、私法解釈への反映、支配的な私的主体の統制

デジタル時代の人権 — 国際的な確認

オンラインでも人権は保護されるとする決議、プライバシーに関する特別報告者、技術と権利の接続

プライバシー権 — 私生活と自己情報の保護

私生活の平穏、自己情報コントロール、正当な期待、憲法上の位置づけ、公共の利益との衡量

通信の秘密 — 通信内容と外形情報

憲法上の保障、通信履歴の取扱い、事業者の守秘義務、捜査上の例外、暗号化された通信の扱い

監視と令状主義 — 権力行使への統制

事前の司法審査、必要性と比例性、対象の特定、事後通知、独立監視機関、大量監視への批判

政府によるデータアクセス — 民間保有情報への到達

任意提供と強制処分、透明性報告、外国政府からの要請、緊急時の開示、利用者への通知の制限

個人データ保護の国際的潮流 — 制度の収れん

十分性認定と標準契約条項、独立監督機関、権利の共通化、越境移転の相互承認、執行協力

データ主権とローカライゼーション — 保管場所の要求

国内保管義務、外国当局のアクセスへの懸念、貿易規律との緊張、クラウド利用への影響、実効性

忘れられる権利 — 検索結果からの削除

欧州司法裁判所の判断、日本における削除請求の枠組み、公共の利害との比較衡量、地理的範囲

表現の自由とオンライン削除 — 私企業による判断

国際基準に照らした削除方針、過剰削除と萎縮、異議申立て、透明性、国家からの要請の可視化

インターネットの遮断 — 通信の全面的制限

選挙や抗議に際した遮断、必要性と比例性の欠如、経済的影響、国際的な非難、事業者の立場

接続へのアクセス — デジタル・デバイドの是正

普遍的サービス、通信料金と機器の負担、地域格差、高齢者と障害者の利用、公的支援の設計

匿名表現の自由 — 保護と責任の均衡

匿名性が支える批判と告発、実名制の要求への批判、被害救済との調整、段階的な発信者特定

集会結社の自由 — デジタル空間での組織化

オンラインでの呼びかけ、参加者の特定、口座凍結や決済遮断による抑圧、団体の登録規制

思想良心の自由 — 内心の推知への懸念

投稿や購買履歴からの信条推知、要配慮情報としての規律、選別と不利益取扱い、沈黙の自由

神経技術と精神的自由 — 新たな保護領域

脳活動データの取得、憲法に神経データの保護を書き込んだ立法例、研究倫理、医療と非医療の区別

認知的自由の議論 — 思考への介入をどう防ぐか

精神的完全性、認知的リバティ、操作的な設計への統制、既存の権利で足りるかをめぐる学説

感情推定技術 — 内面の推定と規制

表情や音声からの推定の科学的妥当性、職場や教育での利用禁止の動き、誤りによる不利益

人間の尊厳 — 権利体系の基礎概念

客体化の禁止、自律の尊重、生命倫理での援用、憲法上の位置づけ、判断基準としての限界

自己決定権 — 選択の自由とその条件

医療における同意、情報の非対称、誘導的な設計への対抗、脆弱な状態にある人への配慮

差別禁止の一般原則 — 平等の法的構造

直接差別と間接差別、合理的な区別の審査、疑わしい区分、積極的差別是正措置、立証責任の転換

人種差別撤廃条約 — 人種等に基づく差別の撤廃

人種差別の定義、扇動の禁止、暫定的な特別措置、報告制度、国内法の整備状況、複合差別への対応

女性差別撤廃条約 — 実質的平等の追求

定義と締約国の義務、暫定的特別措置、間接差別、選択議定書による通報、一般勧告の役割

障害者権利条約 — 社会モデルへの転換

合理的配慮の否定を差別とする構成、アクセシビリティ、法的能力、地域生活、監視の枠組み

子どもの権利条約 — 最善の利益と意見表明

四つの一般原則、意見を聴かれる権利、保護と参加の両立、家庭と代替養育、司法手続での配慮

デジタル環境と子どもの権利 — 一般的意見の指針

子どもの権利委員会の一般的意見が示す枠組み、年齢確認、プロファイリングの制限、遊びと参加

高齢者の権利 — 保護から権利保障へ

地域社会での生活、意思決定支援、虐待の防止、デジタル手続からの排除、条約制定に向けた議論

移住労働者の権利 — 脆弱な立場への保護

移住労働者権利条約、在留資格と雇用の結びつき、手数料負担、家族の帯同、苦情申立ての実効性

難民条約と審査手続 — 保護を受ける権利

難民の定義、ノン・ルフールマン、審査の公正性、通訳と代理人、迅速化と適正手続の緊張

生体情報による登録 — 人道支援と監視の境目

支援受給時の指紋や虹彩の登録、同意の実質性、データの共有、出身国当局への流出リスク、保管期限

無国籍と身分証明 — 存在を証明できない人々

出生登録の欠落、国籍取得の困難、行政サービスからの排除、身分証明制度の設計、救済手続

デジタルIDと包摂 — 制度設計の分岐点

任意性と事実上の強制、生体認証への依存、障害や高齢による困難、代替手段の確保、データ最小化

生存権と給付の自動化 — 社会保障への技術導入

資格判定の自動化、誤りによる受給停止、不服申立て、職員による裁量、説明と記録の保存

教育を受ける権利 — 遠隔教育と監視

接続環境の格差、学習履歴の取扱い、試験監督技術の適正、評価の自動化、障害のある児童生徒への配慮

労働の権利とアルゴリズム管理 — 職場への技術導入

採用と評価の自動化、監視の限界、労使の協議、就業規則の整備、労働時間と休息の確保

労働組合と結社の自由 — 集団的な交渉力

組織化の自由、監視による組合活動の萎縮、越境的な連帯、デジタル分野での組織化、団体交渉の対象

プラットフォーム労働 — 就業者の地位と保護

労働者性の判断基準、アカウント停止への手続保障、報酬の透明性、社会保険の適用、国際的な立法動向

健康への権利 — デジタルヘルスの光と影

医療アクセスの拡大、遠隔診療の質、データに基づく資源配分、格差の再生産、医療従事者の負担

医療データと同意 — 二次利用の枠組み

診療情報の研究利用、次世代医療基盤法の仮名加工、オプトアウトの実効性、匿名化の限界

ゲノム情報と差別 — 遺伝的特徴による不利益

保険や雇用における利用の制限、ゲノム医療推進法が示す差別への対応、家族への波及、告知の在り方

生殖に関する権利とデータ — 機微情報の保護

月経や妊娠に関するアプリのデータ、法執行機関への提供リスク、同意の設計、削除と保存期間

精神保健と強制 — 自由の制限と手続保障

非自発的入院の要件、意思決定支援、身体拘束の縮減、障害者権利条約からの批判、外部監査

支援技術とアクセシビリティ — 権利を支える基盤

画面読み上げと代替入力、ウェブアクセシビリティ規格、公共調達での要件、設計段階からの配慮

言語の権利 — 手話と少数言語

手話言語の法的承認、通訳の配置、司法と行政での利用、機械翻訳の限界、教育における母語

文化的権利と少数者 — 集団の存続

自由権規約が定める少数者の権利、文化と言語と宗教、同化圧力への抵抗、デジタル記録の保存

先住民族の権利 — 宣言が示す枠組み

自己決定、土地と資源、自由意思による事前の情報に基づく同意、文化的遺産、国内法での位置づけ

先住民データ主権 — 誰がデータを管理するか

共同体による統治、研究における同意の取得、遺伝資源と伝統的知識、利益配分、記録や資料の返還

食料への権利 — 生産技術と分配

十分な食料への権利、農業データの集中、種子と品種の権利、飢餓の予防、緊急時の供給確保

水への権利 — 生活に不可欠な資源

国連総会決議による承認、料金と支払能力、供給停止の制限、事業運営の形態、水質の安全

住居への権利 — 選別による排除

入居審査における属性の利用、保証人制度、強制立退きの制限、住宅確保要配慮者への支援

環境と人権 — 良好な環境への権利

国連総会と人権理事会による承認、健康と生命への影響、手続的権利、環境人権擁護者の保護

気候変動と人権 — 影響の不均等

脆弱な地域と世代への負担、適応への資金、移動を強いられる人々、人権機関の見解、訴訟での援用

ビジネスと人権 — 国連指導原則の三本柱

国家の保護義務、企業の尊重責任、救済へのアクセス、実施のための行動計画、期待される行動

人権デューデリジェンス — 特定・防止・是正の循環

負の影響の特定、優先順位付け、防止と軽減、追跡と情報開示、取引先への働きかけ、責任ある撤退

国内の実務指針 — 企業に求められる取組

責任ある供給網等における人権尊重のためのガイドライン、対話と協議、方針の策定、公表と検証

救済へのアクセス — 苦情処理の設計

司法的救済と非司法的救済、事業レベルの苦情処理メカニズム、正当性と予測可能性、報復の防止

紛争影響地域での事業 — 高まる注意義務

強化されたデューデリジェンス、治安部隊との関係、強制労働のリスク、撤退の判断、透明性の確保

技術企業の人権責任 — 設計と運用への反映

サービス設計段階での評価、コンテンツ方針の人権整合性、政府要請への対応方針、透明性報告

監視技術の輸出 — 越境する加害

デュアルユース品目としての規制、輸出許可審査への人権基準の導入、事後の追跡、共犯的責任

スパイウェアと権利侵害 — 標的型の監視

端末への侵入、記者や人権擁護者への使用、被害の立証、国内法上の根拠の欠如、救済と説明責任

顔認識と集会の自由 — 参加の萎縮

デモ参加者の識別、事後的な追跡、誤認識による不利益、利用の禁止や停止を決めた事例、必要性の審査

選別と格付け — 生活機会への影響

信用や行動のスコア化、保険や雇用での利用、誤りの訂正、透明性、社会的信用制度への批判

アルゴリズム的差別の立証 — 見えにくい不利益

統計的格差の把握、比較対象の設定、営業秘密による検証の壁、開示命令、監査へのアクセス

公平性の指標 — 数値化と法的評価のずれ

機会均等や予測値の均等など複数の定義、同時に満たせない場合、法的な差別概念との対応関係

説明を受ける権利 — 判断理由の提示

個別の理由提示と一般的な仕組みの説明、営業秘密との調整、理解可能性、異議申立てとの接続

人間による審査 — 形式化を避ける条件

権限と能力を備えた担当者、判断を覆せる仕組み、時間的余裕、記録の保存、教育と評価

自動化バイアス — 機械の判断への過度な依存

推奨に従う傾向、逸脱への心理的負担、責任の分散、訓練による緩和、運用設計上の対策

AIの人権影響評価 — 導入前後の検証

評価の対象範囲、当事者の参加、緩和策の設計、結果の公表、定期的な再評価、独立した検証

公共調達による人権保護 — 買い手としての国家

仕様への人権要件の組込み、供給者の説明責任、監査と是正、契約解除、中小事業者への配慮

国連特別報告者 — 独立専門家による監視

任務の設定、国別訪問、通報への対応、テーマ別報告書、勧告の位置づけ、政府との協働

人権理事会の役割 — 政治と規範の交錯

決議の採択、特別手続の設置、理事国の選出、市民社会の参加、特別会期、実効性への評価

国際人権法のAIへの適用 — 既存規範の射程

権利制限の三要件、法律の根拠と正当な目的と必要性、技術中立的な解釈、新たな規範形成の要否

偽情報対策と表現の自由 — 対策がもたらす危険

曖昧な禁止規定、政府による真偽判定への懸念、対抗言論と情報の多様性、透明性を通じた対応

ヘイトスピーチと国際基準 — 禁止と保護の線引き

自由権規約が求める扇動の禁止、六要素による評価枠組み、刑事規制の抑制的運用、被害者支援

国内の対策法制 — 解消に向けた取組

本邦外出身者に対する不当な差別的言動の解消に向けた取組の推進に関する法律、自治体の条例、相談体制

オンライン上のジェンダー暴力 — 標的化された攻撃

集団的な嫌がらせ、私的画像の拡散、公職や報道からの排除効果、通報と削除、刑事的対応

性的画像被害 — 拡散の防止と回復

撮影と提供の処罰、削除請求、検索結果からの除去、加害の抑止、被害者支援と相談窓口

子どもの性的搾取への対応 — 技術と権利の緊張

検知技術の導入、暗号化との衝突、誤検知による影響、国際的な協力、被害児童の権利保護

脆弱な立場の人を狙う詐欺 — 保護と自律の両立

高齢者や障害のある人への勧誘、判断能力の評価、取消権、成年後見と意思決定支援、被害回復

デジタル遺産と死者の尊厳 — 死後の情報

アカウントの承継、遺族のアクセス、生前の意思表示、死者の名誉、記録の削除と保存の選択

人格の同一性と生成技術 — 姿と声の再現

無断での再現による人格的利益の侵害、同意の範囲、営利利用、死後の利用、表現としての評価

生と死をめぐる自己決定 — 制度化の議論

治療の中止と差控え、意思の確認手続、脆弱な立場の人への圧力、諸外国の制度、慎重な検討の必要

人権教育 — 権利を知り使えるようにする

学校教育と社会教育、公務員研修、企業内研修、教材の質の確保、当事者の参画、効果の測定と改善

人権擁護者の保護 — 声を上げる人を守る

宣言と国内の保護措置、司法の濫用による嫌がらせ、監視と脅迫、国際的な連帯、緊急支援

市民社会空間 — 参加の基盤の維持

団体の登録規制、資金への制約、公的な意思決定への参加、対話の場の確保、報復の防止

公益通報者の保護 — 内部からの是正

公益通報者保護法の対象範囲、不利益取扱いの禁止、内部窓口の整備、外部通報の要件、実効性

人権の測定 — 指標とデータ

構造と過程と結果の指標、分解データの整備、統計における属性の扱い、比較可能性、悪用の懸念

救済の実効性 — 権利が絵に描いた餅にならないために

アクセスの障壁、費用と時間、法律扶助、集団的救済、行政による救済、判決の履行確保

国家と企業の責任の交錯 — 共同の関与

国家による利用と企業による提供、共犯的な関与の評価、契約による統制、責任の分担と説明

これからの課題 — 技術変化と権利保障の更新

新たな保護法益の議論、既存概念の再解釈、国際的な合意形成、当事者の参画、実装の検証

人権とAI時代の新課題 — 退避・古典資料archive

旧版教材、歴史的論文、廃止手法のアーカイブなど、現行分類から退避した資料の保管区分