医療におけるAI関連技術の利活用に伴う倫理的・法的・社会的課題の研究

文献情報

文献番号
201904001B
報告書区分
総合
研究課題
医療におけるAI関連技術の利活用に伴う倫理的・法的・社会的課題の研究
課題番号
H30-倫理-一般-001
研究年度
令和1(2019)年度
研究代表者(所属機関)
井上 悠輔(東京大学 医科学研究所)
研究分担者(所属機関)
  • 菅原 典夫(国立精神・神経医療研究センター トランスレーショナルメディカルセンター)
  • 井元 清哉(東京大学 医科学研究所)
  • 佐藤 雄一郎(東京学芸大学 教育学部)
  • 一家 綱邦(国立がん研究センター 社会と健康研究センター)
  • 山本圭一郎(東京大学 大学院医学系研究科)
研究区分
厚生労働科学研究費補助金 行政政策研究分野 政策科学総合研究(倫理的法的社会的課題研究事業)
研究開始年度
平成30(2018)年度
研究終了年度
令和1(2019)年度
研究者交替、所属機関変更
該当なし

研究報告書(概要版)

研究目的
「AI」および関連技術が、患者・市民と医療との接点(医師患者関係を含む)、プロフェッションとしての医師の行為規範に関して、どのような倫理的、法的、社会的課題をもたらしうるか、現時点で想定しうる諸問題を探索的に検討し、一定の整理を行うことが本研究班の活動の主たる目的である。
研究方法
AI関連技術を医療において活用する際に患者・市民、医療者が直面する可能性がある、法的・倫理的・社会的課題を抽出する(ここでの「AI」とは、医師による医行為を支援する目的で用いられるものを主に想定)。生命倫理学・医事法学、臨床医学、AIの専門家、そして研究開発活動との対話に実績のある患者団体との連携のもとに検討を行って重要性を評価し、施策提言にまとめる。AIの「可塑性」「ブラックボックス性」(PMDA科学委員会報告、2017年)が、医療および患者医師関係にもたらす影響、AIが機能する前提となる医療インフラの整備が市民・患者と医療との関係にもたらす影響に注目する。検討のために、患者対話イベントの複数回の実施、およびこうしたイベントに向けた検討素材を引き続き行い、10件程度の架空事例を作成した。
結果と考察
計画の初年度(平成30年度)は、主に「診断支援」の観点から、医療におけるAIの利活用に関連する倫理・法的・社会的課題を探索的に検討して整理した。
最終年度に当たる令和元年度は、前年度に引き続く検討のほか、架空事例を用いた市民行事の複数開催、質問票調査、海外を含めた有識者ヒアリングを行った。その他、医師を対象とした意識調査によれば、AIをソフトウェアとして必ずしも特別視していない姿勢が伺えたが、用いる場面によって、AIへの評価が分かれる点も注目された。市民・患者を対象とした調査や対話行事の結果からは、AIそのものについての大きな反発があるわけではないものの、医師自身の変容や臨床でのコミュニケーションにもたらす変化に一定の懸念が見られた。こうした論点は、全体として、①「医療AI」のあり方全体に関する問題のほか、その②企画・デザイン段階、③研究開発段階、④試行・実践の蓄積段階、⑤普及・定番化段階等に分けて検討することができることを示した。
特に注目した論点を以下に挙げる。「医療AIの位置づけ」(拡張機能としての「AI」)、「現行法における位置づけ」(医行為の範囲、医療機器の範囲、医師の役割と責任の範囲、AIにおける「ブラックボックス」と医療におけるブラックボックス、AIへの置換え、代替となる手段の存否・内容)、「使用環境の整備」(医師のエンパワメント、学習用データ)、「市民・患者にとっての『アルゴリズム』『デジタルツール』」(資源配分に用いられるAI、市民・患者がユーザーになるデジタルツール、報道における伝え方)、「AIを用いた医療のグランドデザイン」(AI研究開発は市民・患者のニーズに向き合っているか、ワークフローにおける評価、医療への影響に関する評価)である。こうした論点を、暫定的ではあるが、これらはそれぞれの段階に顕著に表れる点に注目して、開発や展開のステージにあわせて整理すると以下のようになる。すなわち、「ステージ全体を通底する課題」(医療で語られる「AI」の位置づけに関する認識の共有、患者・市民がユーザーとなりうるAIへの対応)、「企画・デザインの段階」(医療におけるAIの活用のグランドデザインのあり方)、「研究開発段階」(研究開発のための患者情報の収集と利活用のあり方)、「試行・実践の蓄積」(医師を支援する体制のあり方、診断を行う医師が「医療機器」として承認されていないAIを用いる場合、判定結果をめぐるコミュニケーションのあり方)、「普及・定番化段階」(AIの使用者が有するべき資質の基準の整備、専門外の診断を行う(行わざるを得ない)医師の支援、各医療機関はAIを導入するべきか)であった。
結論
現状の議論を整理すると、技術の展開によっては、政策上の選択が迫られる可能性も否定できないが、現行の医事・薬事に関する法制度を基礎にする限り、従来の医療機器と比べて「医療AI」固有の倫理的・法的・社会的課題の影響が直ちに生じるとは考えにくい。「AIが医師の存在に代わる」「誰も理解できないAIが診断を下す」といった状況には遠く、むしろ医療の機械化・電子化、遠隔診断などの支援技術、患者情報の利活用など、従来の議論に学ぶところが大きい。それでも、医療におけるAI関連技術については、法的・倫理的・社会的観点から留意すべき点がある。

研究報告書(紙媒体)

行政効果報告書

文献番号
201904001C

成果

専門的・学術的観点からの成果
AIの倫理については一定の国際的議論があるが、医療との接点を検討する議論は国際的にも途上の段階にある。我々は、診断支援に始まり、診療前のトリアージやモニタリングに関するものまで視野を広げ、医療AIのELSIをめぐる論点を整理した。資料と共に報告書を取りまとめ、好評を得て報道でも紹介されたほか、レビュー論文を複数発表した。
臨床的観点からの成果
議論のために、架空事例を用いた事例集を作成した。これも珍しい試みである。当初は医療者向けに作っていたが、団体コムルの協力を得て、後に診療を受ける患者・市民側の目線からの事例集に展開した。また、この事例を用いた複数回の検討行事を行ない、患者・市民にとっての「AI」の位置づけをめぐる知見を得た。
ガイドライン等の開発
日本病理学会におけるAIガイドラインの作成に参画し、主にAIの研究開発における倫理問題の観点から執筆参加している(班員一部)。
その他行政的観点からの成果
特に無し。
その他のインパクト
団体コムルの協力を得て、後に診療を受ける患者・市民側の目線からの事例集に展開した。これは一部の報道でも紹介された。また、この事例を用いた複数回の検討行事を行ない、患者・市民にとっての「AI」の位置づけをめぐる知見を得た。

発表件数

原著論文(和文)
6件
原著論文(英文等)
0件
その他論文(和文)
7件
その他論文(英文等)
0件
学会発表(国内学会)
5件
学会発表(国際学会等)
2件
その他成果(特許の出願)
0件
その他成果(特許の取得)
0件
その他成果(施策への反映)
0件
その他成果(普及・啓発活動)
2件

特許

主な原著論文20編(論文に厚生労働科学研究費の補助を受けたことが明記された論文に限る)

論文に厚生労働科学研究費の補助を受けたことが明記された論文に限ります。

原著論文1
井上悠輔
医療AIの展開と倫理的・法的・社会的課題(ELSI)
老年精神医学雑誌, 31(1), 7-15 (2020)
原著論文2
井上悠輔,菅原典夫
医療AIと医師患者関係の倫理:AIの「最適解」をどう考えるか
病院, 印刷中- (2020)
原著論文3
井上悠輔
オンライン診療をめぐる議論の展開
年報医事法学, 35, 印刷中- (2020)