文献情報
文献番号
202104002A
報告書区分
総括
研究課題名
医療AIの研究開発・実践に伴う倫理的・法的・社会的課題に関する研究
研究課題名（英字）
-
課題番号
20AD1002
研究年度
令和3(2021)年度
研究代表者(所属機関)
井上 悠輔(東京大学 医科学研究所)
研究分担者(所属機関)
- 菅原 典夫(獨協医科大学 精神神経医学講座)
- 井元 清哉(東京大学 医科学研究所)
- 佐藤 雄一郎(東京学芸大学 教育学部)
- 一家 綱邦(国立がん研究センター社会と健康研究センター生命倫理・医事法研究部医事法研究室)
- 山本 圭一郎(国立研究開発法人 国立国際医療研究センター 臨床研究センター 臨床研究推進部)
研究区分
厚生労働科学研究費補助金 行政政策研究分野 政策科学総合研究（倫理的法的社会的課題研究事業）
研究開始年度
令和2(2020)年度
研究終了予定年度
令和3(2021)年度
研究費
3,000,000円
研究者交替、所属機関変更
-
研究報告書（概要版）
研究目的
本計画は、①医療ＡＩの研究開発や臨床実践に伴う ELSI（倫理的・法的・社会的課題）の論点整理、②医療者や研究開発への従事者に有用な論点整理の資料作成を目的とする。
研究方法
①文献レビュー（帰納的検討）、②分担研究報告、③、ヒアリング・勉強会（オンライン）、④質問票調査、⑤その他（執筆、資料整理ほか）を行った。旧班による平成30年度、令和元年度の報告書、そして昨年度（令和2年度）の報告書を踏まえつつ、また新たに検討した課題や作成した事例を用いた市民ヒアリングの結果をもとに、総合的な課題の整理をおこなった。この間、医学系・人文社会系の学会・研究会での話題提供、日本医師会等での報告とフィードバックの取得にも努めた。
今年度は2年間の計画の最終年度にあたり、旧班による平成30年度、令和元年度の報告書、そして昨年度（令和2年度）の報告書を踏まえつつ、また新たに検討した課題や作成した事例を用いた市民ヒアリングの結果をもとに、総合的な課題の整理をおこなった。この間、医学系・人文社会系の学会・研究会での話題提供、日本医師会等での報告とフィードバックの取得にも努めた。
今年度は2年間の計画の最終年度にあたり、旧班による平成30年度、令和元年度の報告書、そして昨年度（令和2年度）の報告書を踏まえつつ、また新たに検討した課題や作成した事例を用いた市民ヒアリングの結果をもとに、総合的な課題の整理をおこなった。この間、医学系・人文社会系の学会・研究会での話題提供、日本医師会等での報告とフィードバックの取得にも努めた。
結果と考察
以下、要旨を示す（詳細は報告書本体を参照されたい）。
全体を総括するに、現⾏の医事・薬事に関する法制度を基礎にする限り、従来の医療機器と⽐べて、「医療ＡＩ」自体の特有の倫理的・法的・社会的課題が直ちに⽣じるとは考えにくいとする検討が大勢を占めた。
概念上も、制度上も、技術上も「ＡＩ」は未成熟で過渡期にある状況にある中、人々の一定以上の期待や警戒が存在する状況において、顕在化する課題には備えておくべき、という視点も示された。また、「ＡＩ」「倫理」以前の医療環境、制度上の課題も多く見出された。
本報告書は、これらの論点もあえて排除せず、「ＡＩ」を考える上での重要な視点として捉えることとした。その上で、各論としての「研究開発」（特に学習に用いる患者情報の入手や運用をめぐる制度）、「臨床現場」、「市民・社会との接点」をめぐる各論的な課題に加え、全体的な課題としての「総論」を検討するといった、2段構成にて検討し、抽出した課題を挙げた。
具体的には、「総論」（医療における「AI特別主義」の過剰な強調、患者・市民参画、医療者（ユーザー）参画、医療倫理・研究倫理をめぐる認識の共有）、「各論１：研究開発」（個人情報保護法・倫理指針に関する課題、規制と「倫理」との関係、概念整理・用語の難解さ、研究開発と社会との接点に関する課題、研究成果の再現性確保に影響する課題）「各論２：医療現場」（医師の主体性をめぐる原則の再確認、医療現場での「人による監視」の適用をめぐる課題、患者や社会の受け止め・インパクト、医師の専門性を超えるAIの活用の是非、その他（教育、特定製品の推奨・広告と連動した医療業務支援プラットフォームの問題））、「各論３：市民・社会との接点」（「AI」「人工知能」の活用を謳う医療広告、機器との関係が未整理なまま、市民の目に触れる形で公開されるアプリケーション、海外発のオンライン・アプリケーションへのアクセス、ディバイド、デジタル説明手段が及ぼす影響、従来の格差・バイアスの固定化など、「機械・自動的な決定に服さない権利」、患者役割の強化、自己責任論の助長、その他、患者・市民によるAI活用を支える医療・社会環境の再編）、「各論４：公衆衛生の緊急時」（当該ツールの法的な位置づけ、質の確保、利用場面の検討、社会へのインパクト、研究開発に携わる者の役割）である。
全体を総括するに、現⾏の医事・薬事に関する法制度を基礎にする限り、従来の医療機器と⽐べて、「医療ＡＩ」自体の特有の倫理的・法的・社会的課題が直ちに⽣じるとは考えにくいとする検討が大勢を占めた。
概念上も、制度上も、技術上も「ＡＩ」は未成熟で過渡期にある状況にある中、人々の一定以上の期待や警戒が存在する状況において、顕在化する課題には備えておくべき、という視点も示された。また、「ＡＩ」「倫理」以前の医療環境、制度上の課題も多く見出された。
本報告書は、これらの論点もあえて排除せず、「ＡＩ」を考える上での重要な視点として捉えることとした。その上で、各論としての「研究開発」（特に学習に用いる患者情報の入手や運用をめぐる制度）、「臨床現場」、「市民・社会との接点」をめぐる各論的な課題に加え、全体的な課題としての「総論」を検討するといった、2段構成にて検討し、抽出した課題を挙げた。
具体的には、「総論」（医療における「AI特別主義」の過剰な強調、患者・市民参画、医療者（ユーザー）参画、医療倫理・研究倫理をめぐる認識の共有）、「各論１：研究開発」（個人情報保護法・倫理指針に関する課題、規制と「倫理」との関係、概念整理・用語の難解さ、研究開発と社会との接点に関する課題、研究成果の再現性確保に影響する課題）「各論２：医療現場」（医師の主体性をめぐる原則の再確認、医療現場での「人による監視」の適用をめぐる課題、患者や社会の受け止め・インパクト、医師の専門性を超えるAIの活用の是非、その他（教育、特定製品の推奨・広告と連動した医療業務支援プラットフォームの問題））、「各論３：市民・社会との接点」（「AI」「人工知能」の活用を謳う医療広告、機器との関係が未整理なまま、市民の目に触れる形で公開されるアプリケーション、海外発のオンライン・アプリケーションへのアクセス、ディバイド、デジタル説明手段が及ぼす影響、従来の格差・バイアスの固定化など、「機械・自動的な決定に服さない権利」、患者役割の強化、自己責任論の助長、その他、患者・市民によるAI活用を支える医療・社会環境の再編）、「各論４：公衆衛生の緊急時」（当該ツールの法的な位置づけ、質の確保、利用場面の検討、社会へのインパクト、研究開発に携わる者の役割）である。
結論
AIはそれらがどういう環境で用いられ、評価されるか、その点にこそ多くの課題と教訓を考えるべきだろう。このような点から、⓪「AI」という表現⾃体が混乱や懸念をもたらしている点に始まり、①医療・医師患者関係の原点を再確認するべきこと、②研究開発においては情報利用をめぐる理解・信頼を高める枠組みを「同意」手続きに依拠せずに行う取り組み必要性、③研究開発における検証可能性の確保、④「疾患」と「AI」双方に通じる専門家は希少であることから、ユーザーたる医療者の支援・相談に応じる知識・人材基盤の整備、⑤市⺠・患者、医療者の視点を組み込む評価・検討の仕組み、その他多くの課題や留意点を示した。
公開日・更新日
公開日
2025-05-02
更新日
-