公共分野でのAI利用規制（医療・司法）

公共分野でのAI利用規制（医療・司法） — 概要

医療機器承認・司法アルゴリズム・データ保護など、公共分野のAI規制枠組みを俯瞰する入門ガイド

リスクベース規制 — 危険度に応じた段階的義務設計

許容不能・高・限定・最小リスクの4分類、義務の比例原則、EU AI法の基本構造、規制コスト配分

高リスクAIシステム — 医療・司法を含む重点分類

EU AI法附属書の高リスク類型、医療機器・法執行・司法運営・重要インフラ、事前適合性評価義務

禁止されるAI行為 — 許容不能リスクの線引き

ソーシャルスコアリング、潜在意識操作、脆弱性の悪用、無差別な顔画像収集、EU AI法第5条の禁止類型

自動処理のみの決定規制 — GDPR第22条と異議権

完全自動決定への服従拒否権、人間の関与要求、プロファイリング規制、明示的同意・契約・法令の例外

人間の監督 — human oversight要件の設計

ヒューマン・イン・ザ・ループ、監督者の介入権限、自動化バイアス対策、停止ボタン、監督の形骸化問題

透明性・説明義務 — 説明可能AIの法的要求

判断理由の開示、XAI技術、特徴量重要度、反実仮想説明、当事者への通知義務、説明の受け手別設計

アルゴリズム影響評価 — 導入前のリスク審査

AIA質問票、影響度スコアリング、カナダ自動意思決定指令、公表義務、DPIAとの関係、再評価周期

基本権影響評価 — FRIAと人権デューデリジェンス

差別・プライバシー・適正手続への影響分析、公的機関の実施義務、利害関係者協議、緩和措置の記録

規制サンドボックス — 管理下での実証実験制度

監督当局との実験計画合意、限定的免除、医療AIの実地検証、中小企業支援、実験結果の規制反映

適合性評価と第三者認証 — 上市前の審査体制

ノーティファイドボディ、CEマーキング、自己宣言と第三者審査の使い分け、技術文書、EU適合宣言書

プログラム医療機器 — SaMDの定義と該当性判断

IMDRFのSaMD枠組み、診断・治療目的の判定、疾病リスクと情報の重要度による分類、非該当の健康管理アプリ

薬機法とAI医療機器 — 日本の承認・認証制度

医薬品医療機器等法、クラス分類、PMDAの審査、承認・認証・届出の三段階、革新的医療機器の優先審査

米国FDAの承認経路 — 510(k)・De Novo・PMA

実質的同等性審査、新規性の高い機器のDe Novo分類、市販前承認PMA、AI搭載医療機器の許可実績リスト

EU医療機器規則 — MDR・IVDRとソフトウェア

MDRのクラス分類ルール11、体外診断用IVDR、臨床評価報告、UDI識別子、経過措置と再認証の負荷

適応型アルゴリズムの変更管理 — 継続学習とPCCP

市販後の再学習、事前変更管理計画PCCP、固定型と適応型の区別、変更届出の要否、性能維持の保証

機械学習実践原則 — GMLPの10原則

米英加規制当局共同のGMLP、データ品質、意図された使用者、臨床ワークフロー適合、モデル文書化

AI臨床試験の報告基準 — CONSORT-AI・SPIRIT-AI

AI介入試験の報告拡張項目、入出力データの記述、エラー分析、TRIPODなど予測モデル報告指針との関係

臨床的妥当性の検証 — 性能評価と外部検証

感度・特異度・AUC、後ろ向き研究と前向き試験、外部コホート検証、対象集団の代表性、過学習の検出

市販後監視 — 性能劣化とデータドリフト対応

実環境での性能モニタリング、分布シフト検知、有害事象報告、リコール・改修、市販後臨床フォローアップ

品質マネジメント — ISO 13485とIEC 62304

医療機器QMS、ソフトウェアライフサイクル規格、リスクマネジメントISO 14971、設計管理、変更履歴の追跡

画像診断支援AI — 放射線・内視鏡分野の規制

胸部X線・CT・MRIの病変検出、内視鏡ポリープ検出支援、読影補助の位置づけ、偽陰性リスクの管理

自律診断AI — 医師非介在型システムの承認

糖尿病網膜症の自律診断機器IDx-DRの承認事例、医師の確認を要しない判定、適用範囲の限定と紹介義務

病理・ゲノム医療AI — 精密医療の規制課題

デジタル病理の全スライド画像解析、変異解釈支援、コンパニオン診断との関係、検査室開発検査LDTの扱い

臨床意思決定支援 — CDSの規制除外基準

米国21世紀治療法のCDS除外、根拠を独立に確認できる助言の非機器扱い、時間的切迫性、除外の限界事例

デジタル治療 — DTxの承認と処方の枠組み

治療用アプリの薬事承認、ニコチン依存症・高血圧治療アプリ、処方型の流通管理、治療効果のエビデンス要求

症状チェッカー・トリアージAI — 受診勧奨の境界

症状入力型チャットボット、緊急度判定、医療機器該当性のグレーゾーン、誤トリアージの責任、免責表示

メンタルヘルスAI — 精神保健アプリの規制

認知行動療法アプリ、自殺リスク検知、対話型AIの危機対応義務、未成年保護、消費者保護当局の執行

遠隔医療とAI — オンライン診療での利用条件

オンライン診療指針、初診対面原則の緩和、AI問診の位置づけ、なりすまし防止、通信の安全管理措置

手術支援ロボット — 自律性レベルと安全規制

マスタースレーブ型手術ロボット、自律性の段階分類、術者トレーニング要件、有害事象データベース

医師法と診断権 — 医行為とAIの役割分担

医師法17条の医業独占、診断の最終判断者、AI支援下でも医師が責任主体とする行政解釈、無資格診断の禁止

医療AIの責任分配 — 医師・製造者・病院の役割

最終判断責任、警告表示の妥当性、使用上の注意逸脱、病院の選定・管理責任、開発者の設計責任の切り分け

製造物責任とAI — 欠陥概念とソフトウェア

製造物責任法の適用範囲、ソフトウェア単体の製造物性、EU製造物責任指令改正、開発危険の抗弁、立証負担

医療過誤とAI — 過失基準と医療水準論

AI助言への追従・不追従と過失認定、医療水準へのAI組み込み、注意義務の変容、期待権侵害、因果関係立証

インフォームドコンセント — AI利用の患者への告知

AI関与の説明義務、代替選択肢の提示、同意取得の様式、拒否権の保障、説明文書へのAI記載実務

医療データ保護法制 — HIPAAと個人情報保護法

要配慮個人情報、HIPAAプライバシー規則、安全管理措置、越境移転規制、学習データ利用の法的根拠

医療データ二次利用 — 次世代医療基盤法の仕組み

認定事業者による匿名加工・仮名加工医療情報、オプトアウト方式、研究開発への提供、利活用と信頼の均衡

欧州保健データ空間 — EHDSと研究利用基盤

電子カルテの一次利用・二次利用の分離、データ許可機関、研究者アクセス、患者の閲覧権、相互運用標準

匿名化・仮名化 — 再識別リスクの統制

匿名加工情報の基準、k-匿名性、差分プライバシー、ゲノムデータの再識別可能性、識別行為の禁止規定

連合学習と分散解析 — データを移さない学習の規制

フェデレーテッドラーニング、施設間モデル共有、勾配からの情報漏えいリスク、共同管理者の整理、契約設計

医療AIのバイアス — 健康格差の増幅防止

学習データの人種・性別偏り、皮膚画像診断の精度差、パルスオキシメータ問題の教訓、公平性指標、是正義務

保険償還と診療報酬 — プログラム医療機器の評価

AI画像診断支援の診療報酬加算、費用対効果評価、償還価格の算定、承認と保険収載のギャップ、普及の経済誘因

WHO保健AIガイダンス — 倫理とガバナンス6原則

自律性保護、安全と公益、透明性、説明責任、包摂と衡平、持続可能性、大規模言語モデルへの追加指針

医療情報システムの安全管理 — 国内ガイドライン群

厚労省の医療情報システム安全管理ガイドライン、経産省・総務省の事業者向け指針、クラウド利用、監査証跡

電子カルテとAI — 記録生成・文書化支援の統制

診療録の自動下書き、音声認識による記録、真正性・見読性・保存性の三原則、修正履歴、誤記混入の防止

生成AIの臨床利用 — 大規模言語モデルの医療規制

LLMによる要約・患者説明文生成、ハルシネーション対策、医療機器該当性の議論、入力情報の守秘、検証責任

再犯リスク評価 — COMPAS論争と公平性

再犯予測スコア、偽陽性率の人種間格差をめぐる報道と反論、公平性定義の両立不可能性、実務での利用限界

Loomis判決 — 量刑でのアルゴリズム利用の適法性

ウィスコンシン州最高裁2016年判決、営業秘密による非開示、適正手続主張の棄却、利用上の注意義務付け

保釈・公判前判断 — リスク評価ツールの導入

公判前サービスのリスクスコア、出頭確率・再犯危険の予測、保釈金制度改革との連動、裁量への影響検証

量刑支援システム — 量刑相場データベースと予測

過去判例の量刑分布提示、類似事案検索、裁判官の参考情報としての位置づけ、アンカリング効果への懸念

予測的警察活動 — 場所・人物予測の規制と中止

犯罪多発地点予測、ホットスポット巡回、個人リスト化への批判、米国都市での運用中止事例、効果検証の欠如

顔認識と法執行 — 誤認逮捕と利用制限条例

容疑者照合データベース、誤一致による誤認逮捕事例、米国自治体の利用禁止条例、照合精度の人口統計差

遠隔生体識別の禁止 — 公共空間のリアルタイム監視

EU AI法の法執行目的リアルタイム識別の原則禁止、重大犯罪捜査の例外、事前許可、事後識別の条件

生体情報保護法制 — イリノイ州BIPAと同意原則

生体識別子の取得同意、書面告知、保持・破棄方針、私人訴権による集団訴訟、顔特徴量収集への執行事例

ソーシャルスコアリング禁止 — 公的信用評価の限界

行動データに基づく市民格付け、文脈外の不利益取扱い禁止、EU AI法の禁止規定、社会信用システムへの国際的批判

アルゴリズム開示と営業秘密 — 適正手続との衝突

ソースコード開示請求、営業秘密の抗弁、保護命令下の限定開示、独立専門家による検証、武器対等の原則

デュープロセスとAI — 防御権・対審権の保障

不利益処分の告知と聴聞、証拠へのアクセス、反対尋問の機会、自動化された行政処分の理由付記義務

裁判官の独立とAI — 判断代替の禁止原則

AIは補助にとどめ裁定権を委ねない原則、欧州司法効率化委員会の司法AI倫理憲章、裁判を受ける権利

中国のスマート法院 — 司法AI規制意見と実装

最高人民法院の司法AI利用に関する意見、判決支援・類案検索、インターネット法院、補助原則と人間の裁定

オンライン紛争解決 — ODRの制度化と品質確保

少額紛争のオンライン調停、EC取引のODRプラットフォーム、合意形成支援AI、中立性・執行力の担保

電子開示とTAR — eディスカバリーの技術支援審査

テクノロジー支援レビュー、予測コーディング、文書レビューの妥当性検証、開示範囲の合意、裁判所の承認例

リーガルリサーチAI — 判例検索と引用捏造問題

判例・法令検索の自動化、生成AIによる架空判例引用への制裁事例、提出書面の真実性確認義務、検証手順

弁護士のAI利用倫理 — 守秘義務と技術的能力

依頼者情報の外部AI入力の可否、弁護士会の指針、技術的能力を含む注意義務、報酬請求とAI活用の開示

非弁行為と法務AI — 無資格法律業務の規制

弁護士法72条、法律相談チャットボットの該当性、契約書レビューサービスの適法性整理、当局の見解と実務

裁判所のAI利用指針 — 各国司法府のガイドライン

裁判官・職員向け生成AI利用指針、非公開情報の入力禁止、下書き利用の許容範囲、判決文起草への線引き

ディープフェイクと証拠法 — 真正性の立証

偽造動画・音声の証拠排除、真正性認証の基準、来歴証明技術C2PA、鑑定人の役割、偽情報主張の濫用対策

AI生成・解析証拠の許容性 — 信頼性審査の基準

科学的証拠の許容性基準、アルゴリズムの検証可能性、エラー率の開示、専門家証言、ブラックボックス批判

検察・捜査機関のAI — 起訴判断と捜査支援の統制

証拠整理・供述分析の支援、起訴裁量への影響、捜査資料の自動要約、開示義務との関係、内部監査体制

刑事司法データのバイアス — 過去の偏りの再生産

逮捕記録の地域・人種偏在、フィードバックループ、代理変数による間接差別、データ監査、脱バイアス手法の限界

児童保護のリスク評価 — 通告スクリーニングAI

虐待通告の優先度スコア、家庭分離判断への影響、貧困との交絡、透明性要求、自治体導入と検証研究

福祉給付の自動化 — 不正検知の失敗事例と司法審査

オランダSyRI違法判決、豪州の債務自動算定の違法認定、給付停止の適正手続、国家賠償、再発防止の制度設計

移民・難民審査とAI — 入国管理の自動化統制

ビザ審査の優先度付け、虚偽申請検知、難民認定への利用制限、高リスク分類、審査官の裁量と説明責任

捜査支援解析AI — 音声・画像・通信データの処理

防犯カメラ映像の人物追跡、音声の話者識別、通信記録のネットワーク分析、令状主義、目的外利用の禁止

矯正・保護観察とAI — 処遇判定と電子監視

仮釈放審理の資料化、処遇プログラム割当て、GPS電子監視、更生評価の指標化、対象者の権利保障

少年司法とAI — 未成年への特別な配慮

少年のリスク評価の制限、成長可能性の考慮、記録の抹消と学習データ残存の矛盾、教育的処遇の優先

被害者・証人保護とAI — 匿名化と二次被害防止

供述聴取の負担軽減、映像の顔・音声匿名化技術、公開記録の自動マスキング、報復リスク評価、情報管理

カナダ自動意思決定指令 — 政府AIの影響度別統制

連邦政府機関への算法影響評価義務、影響レベル4段階、ピアレビュー、通知・説明要件、公開登録簿

米国州レベルのAI法 — コロラド州法と差別防止

2024年コロラド州AI法、高リスクAIの開発者・利用者義務、算法差別への合理的注意、消費者への通知

公共部門の透明性標準 — 英国のアルゴリズム記録公開

英国アルゴリズム透明性記録標準、公共機関の利用目録公開、ツールの目的・データ・監督体制の記述様式

日本のソフトロー — AI事業者ガイドラインと分野指針

AI事業者ガイドラインの共通指針、開発者・提供者・利用者の役割別整理、医療・行政分野の個別指針との重層

OECD AI原則 — 国際協調の基盤枠組み

信頼できるAIの5原則、包摂的成長、人間中心の価値、頑健性、説明責任、各国政策へのモニタリング

ユネスコAI倫理勧告 — グローバル規範と実装評価

2021年採択の倫理勧告、比例性・無害性、準備状況評価手法RAM、倫理影響評価、加盟国の実装報告

欧州評議会AI枠組条約 — 人権・民主主義・法の支配

2024年採択のAI枠組条約、公的部門への適用、救済手段の確保、非欧州国の署名、EU AI法との関係

政府調達とAI — 公共調達仕様による統制

調達要件への透明性・監査可能性の組込み、ベンダーロックイン回避、性能保証条項、検収時の公平性試験

アルゴリズム監査 — 第三者によるバイアス検査

内部監査と独立監査、公平性指標の選定、監査アクセス権、監査人の資格・独立性、報告書の公開範囲

ログ保持・記録義務 — 追跡可能性の技術要件

自動生成ログの保存期間、入力・出力・判断根拠の記録、改ざん防止、事故調査への提供、監督当局の閲覧権

苦情処理と救済 — 不服申立てと権利救済の経路

AI決定への不服申立窓口、人間による再審査、行政不服審査・訴訟、集団的救済、オンブズマンの役割

公務員・専門職のAIリテラシー — 研修と運用体制

医療従事者・裁判所職員の教育義務、EU AI法のAIリテラシー条項、運用手順書、責任者の指名、習熟度評価

データガバナンス要件 — 品質・代表性・来歴管理

学習・検証・テストデータの品質基準、代表性の確保、データ来歴の文書化、ラベル付けの一貫性、欠測処理

汎用AIモデルの規制 — GPAI義務と下流利用

EU AI法の汎用AIモデル規定、技術文書・学習データ概要の提供、システミックリスクモデルの追加義務

AIマネジメント標準 — ISO/IEC 42001と整合規格

AIマネジメントシステム認証、リスク管理規格、EU整合規格による適合推定、標準化機関CEN/CENELECの役割

教育・雇用分野との比較 — 隣接する高リスク領域

入試・成績評価AI、採用選考ツールの監査義務、ニューヨーク市の雇用AI監査条例、医療・司法規制との共通構造

保険引受とAI — 医療データ利用と差別禁止

健康リスクスコアの引受利用、遺伝情報差別の禁止法制、料率算定の説明可能性、金融監督当局のAI指針

選挙・民主主義とAI — 偽情報対策と公共的発信

選挙期間のディープフェイク規制、政治広告のAI生成表示義務、司法・行政広報の生成AI利用指針

AI責任ルールの立法動向 — 因果関係と立証負担

EUのAI責任指令案の提案と撤回、開示命令、因果関係の推定、無過失責任論、保険による損害填補の設計

公衆衛生危機とAI — パンデミック対応の教訓

接触追跡アプリ、感染予測モデル、ワクチン配分アルゴリズム、緊急時の規制緩和と平時への回帰、プライバシー

規制の国際比較 — ブリュッセル効果と制度競争

EU包括規制・米国分野別執行・日本ソフトローの比較、域外適用、規制裁定、相互承認と国際整合化の動き

規制影響の実証研究 — 導入効果とコンプライアンス費用

規制影響分析RIA、承認遅延とイノベーションの計測、中小企業負担、事後評価条項、学術研究の政策反映

AI規制の将来論点 — 汎用化・自律化への制度対応

自律エージェントの公共利用、動的規制・アジャイルガバナンス論、規制当局の技術力強化、認証の継続的更新

公共分野でのAI利用規制（医療・司法） — 退避・古典資料archive

旧版ガイドライン、廃止された規制文書、初期のエキスパートシステム規制論など歴史的資料の退避棚