医療におけるAI関連技術の利活用に伴う倫理的・法的・社会的課題の研究

文献情報

• 文献番号: 201904001A
• 報告書区分: 総括
• 研究課題名: 医療におけるAI関連技術の利活用に伴う倫理的・法的・社会的課題の研究
• 課題番号: H30-倫理-一般-001
• 研究年度: 令和1(2019)年度
• 研究代表者(所属機関): 井上 悠輔(東京大学 医科学研究所)

研究分担者(所属機関)

• 菅原　典夫(国立精神・神経医療研究センター　トランスレーショナルメディカルセンター)
• 井元　清哉(東京大学　医科学研究所)
• 佐藤　雄一郎(東京学芸大学　教育学部)
• 一家　綱邦(国立がん研究センター　社会と健康研究センター)
• 山本圭一郎(東京大学　大学院医学系研究科)

• 研究区分: 厚生労働科学研究費補助金 行政政策研究分野 政策科学総合研究（倫理的法的社会的課題研究事業）
• 研究開始年度: 平成30(2018)年度
• 研究終了予定年度: 令和1(2019)年度
• 研究費: 8,400,000円
• 研究者交替、所属機関変更: 該当なし

研究報告書（概要版）

研究目的

「ＡＩ」および関連技術が、患者・市民と医療との接点（医師患者関係を含む）、プロフェッションとしての医師の行為規範に関して、どのような倫理的、法的、社会的課題をもたらしうるか、現時点で想定しうる諸問題を探索的に検討し、一定の整理を行うことが本研究班の活動の主たる目的である。

研究方法

ＡＩ関連技術を医療において活用する際に患者・市民、医療者が直面する可能性がある、法的・倫理的・社会的課題を抽出する（ここでの「ＡＩ」とは、医師による医行為を支援する目的で用いられるものを主に想定）。生命倫理学・医事法学、臨床医学、ＡＩの専門家、そして研究開発活動との対話に実績のある患者団体との連携のもとに検討を行って重要性を評価し、施策提言にまとめる。初年度が文献検討を中心としたことに比して、今年度はこの作業を引き続き行いつつ、有識者のヒアリング、患者・市民の反応を得る機会の確保、横断的な意識・認知度調査を行うなどして、現時点での多様なステークホルダーの認識を調査・確認し、より立体的・実証的な見地から、「医療ＡＩ」およびそこでの諸課題の把握に努めた。

結果と考察

昨年度（平成30年度総括・分担研究報告書）の検討を土台としつつ、この間の検討および「結果」を俯瞰して、特に注目した論点を以下に挙げる。「医療ＡＩの位置づけ」（拡張機能としての「ＡＩ」）、「現行法における位置づけ」（医行為の範囲、医療機器の範囲、医師の役割と責任の範囲、ＡＩにおける「ブラックボックス」と医療におけるブラックボックス、ＡＩへの置換え、代替となる手段の存否・内容）、「使用環境の整備」（医師のエンパワメント、学習用データ）、「市民・患者にとっての『アルゴリズム』『デジタルツール』」（資源配分に用いられるＡＩ、市民・患者がユーザーになるデジタルツール、報道における伝え方）、「ＡＩを用いた医療のグランドデザイン」（ＡＩ研究開発は市民・患者のニーズに向き合っているか、ワークフローにおける評価、医療への影響に関する評価）である。こうした論点を、暫定的ではあるが、これらはそれぞれの段階に顕著に表れる点に注目して、開発や展開のステージにあわせて整理すると以下のようになる。すなわち、「ステージ全体を通底する課題」（医療で語られる「ＡＩ」の位置づけに関する認識の共有、患者・市民がユーザーとなりうるＡＩへの対応）、「企画・デザインの段階」（医療におけるＡＩの活用のグランドデザインのあり方）、「研究開発段階」（研究開発のための患者情報の収集と利活用のあり方）、「試行・実践の蓄積」（医師を支援する体制のあり方、診断を行う医師が「医療機器」として承認されていないＡＩを用いる場合、判定結果をめぐるコミュニケーションのあり方）、「普及・定番化段階」（ＡＩの使用者が有するべき資質の基準の整備、専門外の診断を行う（行わざるを得ない）医師の支援、各医療機関はＡＩを導入するべきか）であった。

結論

現状の議論を整理すると、技術の展開によっては、政策上の選択が迫られる可能性も否定できないが、現行の医事・薬事に関する法制度を基礎にする限り、従来の医療機器と比べて「医療ＡＩ」固有の倫理的・法的・社会的課題の影響が直ちに生じるとは考えにくい。「ＡＩが医師の存在に代わる」「誰も理解できないＡＩが診断を下す」といった状況には遠く、むしろ医療の機械化・電子化、遠隔診断などの支援技術、患者情報の利活用など、従来の議論に学ぶところが大きい。それでも、医療におけるＡＩ関連技術については、いくつか留意すべき点がある。今年度は、前年度に引き続く検討のほか、架空事例を用いた市民行事の複数開催、質問票調査、海外を含めた有識者ヒアリングを行った。その他、医師を対象とした意識調査によれば、ＡＩをソフトウェアとして必ずしも特別視していない姿勢が伺えたが、用いる場面によって、ＡＩへの評価が分かれる点も注目された。市民・患者を対象とした調査や対話行事の結果からは、ＡＩそのものについての大きな反発があるわけではないものの、医師自身の変容や臨床でのコミュニケーションにもたらす変化に一定の懸念が見られた。こうした論点は、全体として、①「医療ＡＩ」のあり方全体に関する問題のほか、その②企画・デザイン段階、③研究開発段階、④試行・実践の蓄積段階、⑤普及・定番化段階等に分けて検討することができることを示した。なお、この検討のために、患者対話イベントの複数回の実施、およびこうしたイベントに向けた検討素材を引き続き行い、10件程度の架空事例を作成した。これらは検討のためのプロセスでもあるが、ELSIの検討のための患者参画の試行的取り組みであり、これら自体も一つの事業の成果として報告書内で示した。

公開日・更新日

• 公開日: 2020-08-31
• 更新日: -

文献情報

• 文献番号: 201904001B
• 報告書区分: 総合
• 研究課題名: 医療におけるAI関連技術の利活用に伴う倫理的・法的・社会的課題の研究
• 課題番号: H30-倫理-一般-001
• 研究年度: 令和1(2019)年度
• 研究代表者(所属機関): 井上 悠輔(東京大学 医科学研究所)

研究分担者(所属機関)

• 菅原　典夫(国立精神・神経医療研究センター　トランスレーショナルメディカルセンター)
• 井元　清哉(東京大学　医科学研究所)
• 佐藤　雄一郎(東京学芸大学　教育学部)
• 一家　綱邦(国立がん研究センター　社会と健康研究センター)
• 山本圭一郎(東京大学　大学院医学系研究科)

• 研究区分: 厚生労働科学研究費補助金 行政政策研究分野 政策科学総合研究（倫理的法的社会的課題研究事業）
• 研究開始年度: 平成30(2018)年度
• 研究終了予定年度: 令和1(2019)年度
• 研究者交替、所属機関変更: 該当なし

研究報告書（概要版）

研究目的

「ＡＩ」および関連技術が、患者・市民と医療との接点（医師患者関係を含む）、プロフェッションとしての医師の行為規範に関して、どのような倫理的、法的、社会的課題をもたらしうるか、現時点で想定しうる諸問題を探索的に検討し、一定の整理を行うことが本研究班の活動の主たる目的である。

研究方法

ＡＩ関連技術を医療において活用する際に患者・市民、医療者が直面する可能性がある、法的・倫理的・社会的課題を抽出する（ここでの「ＡＩ」とは、医師による医行為を支援する目的で用いられるものを主に想定）。生命倫理学・医事法学、臨床医学、ＡＩの専門家、そして研究開発活動との対話に実績のある患者団体との連携のもとに検討を行って重要性を評価し、施策提言にまとめる。ＡＩの「可塑性」「ブラックボックス性」（PMDA科学委員会報告、2017年）が、医療および患者医師関係にもたらす影響、ＡＩが機能する前提となる医療インフラの整備が市民・患者と医療との関係にもたらす影響に注目する。検討のために、患者対話イベントの複数回の実施、およびこうしたイベントに向けた検討素材を引き続き行い、10件程度の架空事例を作成した。

結果と考察

計画の初年度（平成３０年度）は、主に「診断支援」の観点から、医療におけるＡＩの利活用に関連する倫理・法的・社会的課題を探索的に検討して整理した。
最終年度に当たる令和元年度は、前年度に引き続く検討のほか、架空事例を用いた市民行事の複数開催、質問票調査、海外を含めた有識者ヒアリングを行った。その他、医師を対象とした意識調査によれば、ＡＩをソフトウェアとして必ずしも特別視していない姿勢が伺えたが、用いる場面によって、ＡＩへの評価が分かれる点も注目された。市民・患者を対象とした調査や対話行事の結果からは、ＡＩそのものについての大きな反発があるわけではないものの、医師自身の変容や臨床でのコミュニケーションにもたらす変化に一定の懸念が見られた。こうした論点は、全体として、①「医療ＡＩ」のあり方全体に関する問題のほか、その②企画・デザイン段階、③研究開発段階、④試行・実践の蓄積段階、⑤普及・定番化段階等に分けて検討することができることを示した。
特に注目した論点を以下に挙げる。「医療ＡＩの位置づけ」（拡張機能としての「ＡＩ」）、「現行法における位置づけ」（医行為の範囲、医療機器の範囲、医師の役割と責任の範囲、ＡＩにおける「ブラックボックス」と医療におけるブラックボックス、ＡＩへの置換え、代替となる手段の存否・内容）、「使用環境の整備」（医師のエンパワメント、学習用データ）、「市民・患者にとっての『アルゴリズム』『デジタルツール』」（資源配分に用いられるＡＩ、市民・患者がユーザーになるデジタルツール、報道における伝え方）、「ＡＩを用いた医療のグランドデザイン」（ＡＩ研究開発は市民・患者のニーズに向き合っているか、ワークフローにおける評価、医療への影響に関する評価）である。こうした論点を、暫定的ではあるが、これらはそれぞれの段階に顕著に表れる点に注目して、開発や展開のステージにあわせて整理すると以下のようになる。すなわち、「ステージ全体を通底する課題」（医療で語られる「ＡＩ」の位置づけに関する認識の共有、患者・市民がユーザーとなりうるＡＩへの対応）、「企画・デザインの段階」（医療におけるＡＩの活用のグランドデザインのあり方）、「研究開発段階」（研究開発のための患者情報の収集と利活用のあり方）、「試行・実践の蓄積」（医師を支援する体制のあり方、診断を行う医師が「医療機器」として承認されていないＡＩを用いる場合、判定結果をめぐるコミュニケーションのあり方）、「普及・定番化段階」（ＡＩの使用者が有するべき資質の基準の整備、専門外の診断を行う（行わざるを得ない）医師の支援、各医療機関はＡＩを導入するべきか）であった。

結論

現状の議論を整理すると、技術の展開によっては、政策上の選択が迫られる可能性も否定できないが、現行の医事・薬事に関する法制度を基礎にする限り、従来の医療機器と比べて「医療ＡＩ」固有の倫理的・法的・社会的課題の影響が直ちに生じるとは考えにくい。「ＡＩが医師の存在に代わる」「誰も理解できないＡＩが診断を下す」といった状況には遠く、むしろ医療の機械化・電子化、遠隔診断などの支援技術、患者情報の利活用など、従来の議論に学ぶところが大きい。それでも、医療におけるＡＩ関連技術については、法的・倫理的・社会的観点から留意すべき点がある。

公開日・更新日

• 公開日: 2020-08-31
• 更新日: -

行政効果報告

• 文献番号: 201904001C

成果

• 専門的・学術的観点からの成果: 総括するに、現⾏の医事・薬事に関する法制度を基礎にする限り、従来の医療機器と⽐べて、「医療ＡＩ」⾃体の特有の倫理的・法的・社会的課題が直ちに⽣じるとは考えにくいとする検討が⼤勢を占めた。一方、未成熟で過渡期にある状況にある中、顕在化する課題には備えておくべき、という視点も⽰された。これらを踏まえ、各論としての「研究開発」、「臨床現場」、「市⺠・社会との接点」をめぐる各論的な課題に加え、全体的な課題としての「総論」を検討するといった、2 段構成にて検討し、抽出した課題を挙げた。
• 臨床的観点からの成果: 臨床現場において留意すべき点として、「医師の主体性をめぐる原則の再確認」「医療現場での『⼈による監視』の適⽤をめぐる課題」「患者や社会の受け⽌め・インパクトへの配慮」「医師の専⾨性を超えるAI の活⽤の是⾮」「その他（教育、特定製品の推奨・広告と連動した医療業務⽀援プラットフォームの問題）」を抽出し、解説を付した。また、医療AIをめぐる医師患者関係、コミュニケーションのあり方を考えるための架空事例を6件作成した（従来のものとあわせて17件）。
• ガイドライン等の開発: 日本病理学会におけるAIガイドライン案の作成に参画し、主にAIの研究開発における倫理問題の観点から執筆参加した。また、日本医師会の令和2・3年度⽣命倫理懇談会答申（『医療AIの加速度的な進展をふまえた⽣命倫理の問題』）の検討・執筆に参画し、「AI規制とガイドライン：世界の検討動向」「AI開発と利⽤における説明と責任」「AI開発と利⽤における個⼈情報の扱い」について執筆する他、主原則の作成にも寄与した。
• その他行政的観点からの成果: 特に無し。
• その他のインパクト: 団体コムルの協力を得て、後に診療を受ける患者・市民側の目線からの事例集に展開した。これは一部の報道でも紹介された。また、この事例を用いた複数回の市民ヒアリング（年代・性別によって定義された全６集団）を開催し、患者・市民にとっての「AI」の位置づけをめぐる知見を得た。

発表件数

• 原著論文（和文）: 17件
• 原著論文（英文等）: 5件
• その他論文(和文): 7件
• その他論文(英文等): 0件
• 学会発表(国内学会): 23件
• 学会発表(国際学会等): 2件
• その他成果(特許の出願): 0件
• その他成果(特許の取得): 0件
• その他成果(施策への反映): 2件 ; ガイドライン策定１件、答申作成１件
• その他成果(普及・啓発活動): 18件 ; 講演18件

主な原著論文20編（論文に厚生労働科学研究費の補助を受けたことが明記された論文に限る）

• 原著論文1: 井上悠輔; 医療AIの展開と倫理的・法的・社会的課題（ELSI); 老年精神医学雑誌 , 31 (1) , 7-15 (2020)
• 原著論文2: 井上悠輔,菅原典夫; 医療ＡＩと医師患者関係の倫理：ＡＩの「最適解」をどう考えるか; 病院 , 79 (9) , 698-703 (2020)
• 原著論文3: 井上悠輔; オンライン診療をめぐる議論; 年報医事法学 , 35 , 225-232 (2020)
• 原著論文4: 須田拓実, 村松紀子, 井上悠輔; 医療機関における「音声翻訳アプリ」の利用：医師の期待、医療通訳者の受け止め; 病院 , 80 (8) , 722-727 (2021)
• 原著論文5: 井上悠輔; 「AI規制とガイドライン：世界の検討動向」「AI開発と利用における説明と責任」「AI開発と利用における個人情報の扱い」; 日本医師会『医療AIの加速度的な進展をふまえた生命倫理の問題』について（令和2・3年度生命倫理懇談会答申） (2022)

公開日・更新日

• 公開日: 2020-08-31
• 更新日: 2023-06-06

収支報告書

• 文献番号: 201904001Z
• 報告年月日: 2020年08月18日

収入

• (1)補助金交付額: 10,920,000円
• (2)補助金確定額: 10,920,000円
• 差引額 [(1)-(2)]: 0円

支出

研究費 (内訳)	直接研究費	物品費	999,123円
		人件費・謝金	136,500円
		旅費	1,978,628円
		その他	5,291,862円
	間接経費		2,520,000円
	合計		10,926,113円

備考

備考

支出超過分は自己資金にて補填

公開日・更新日

• 公開日: 2020-10-15
• 更新日: -