[Clinical AI Coding 100 : C9] AI時代の医療倫理、心に刻むべきコンパス

---

「先生、このAIの診断結果ですが、どうしてこういう結論になったんでしょうか？」

ある日、後輩からそう尋ねられたとき、私たちは自信を持って答えられるでしょうか。人工知能（AI）が私たちの日常に溶け込み、医療の世界でも欠かせないパートナーとなりつつある今、その技術的な側面だけでなく、「倫理」という名のコンパスを手にすることが、これまで以上に重要になっています。

AIは、まるで超人的な能力を持つ研修医のようです。膨大な論文を瞬時に読みこなし、CT画像から人間では見逃してしまうような微細な病変の兆候を指摘してくれる。しかし、その「思考」のプロセスは、時に私たちには見えないブラックボックス。なぜその結論に至ったのか、どんなデータから学んだのかが分からなければ、私たちはその提案を鵜呑みにして良いものでしょうか。

この記事では、AIという新しい医療の道具と、私たちがどう向き合っていくべきか、そのための「心のコンパス」となるべき重要な倫理的テーマについて、一緒に考えていきたいと思います。

AI倫理の全体像：航海図としての「ELSI」

AI倫理を考えるとき、まず押さえておきたいのがELSI（エルシー）という言葉です。これは、倫理的（Ethical）、法的（Legal）、社会的（Social）課題（Issues）の頭文字をとったもので、新しい科学技術を社会に導入する際に考慮すべき3つの視点を示しています (Char, Shah & Magnus 2018)。

• 倫理的課題 (Ethical): 何が正しく、何が間違っているのか。患者の尊厳や幸福のために、どうあるべきかという根本的な問い。
• 法的課題 (Legal): 法律や制度はどうなっているのか。個人情報保護法や医師法など、守るべきルール。
• 社会的課題 (Social): 社会や文化にどのような影響を与えるのか。人々の価値観や信頼関係にどう作用するか。

AI倫理という広大な海を航海する上で、このELSIは、私たちが羅針盤を見失わないための、非常に重要な「航海図」の役割を果たしてくれるのです。

なぜ？を解き明かす「説明可能性（XAI）」

AI、特に深層学習（ディープラーニング）を用いたモデルは、その判断根拠が分かりにくい「ブラックボックス」問題を抱えているとしばしば指摘されます。

これを例えるなら、「腕はピカイチだけど、一切口を利かない職人」のようなものでしょうか。素晴らしい成果物（診断結果）を出してくれるけれど、なぜそうなったのか、途中の工程を一切見せてくれない。これでは、私たちはその診断を心から信頼し、患者さんに自信を持って説明することは難しいですよね。

そこで登場するのが、説明可能性（Explainable AI: XAI）という考え方です。例えば、画像診断AIが病変を疑うと判断した部分をヒートマップで可視化する技術（Grad-CAMなど）は、AIが「どこに着目したか」を理解する上で有用です (Selvaraju et al. 2020)。このようなXAI技術は、AIの挙動を開発者が検証したり、監査したり、あるいは教育的な目的で補助的に用いたりする際に役立ちます。

一方で、その説明が医学的に正確な因果関係を保証するわけではない、という限界も理解しておく必要があります (Ghassemi, Oakden-Rayner & Beam 2021; Rudin 2019)。XAIが示す根拠はあくまでAIの判断プロセスの一部であり、それを個々の患者への臨床的意思決定に過度に信頼するのは危険です。私たちがAIを「盲信する」のではなく、「賢く使いこなす」ための鍵、それが説明可能性なのです。

誰一人取り残さないための「公平性（Fairness）」

もし、あなたが信頼する料理人が、実は極端な偏食家で、特定の食材しか使わなかったとしたらどうでしょう？その料理人が作る料理は、きっと偏ったものになりますよね。

実は、AIにも同じことが起こり得ます。AIは学習するデータから物事を学びますが、その学習データに偏り（バイアス）があると、AIの判断もまた偏ったものになってしまうのです。これがアルゴリズムバイアスと呼ばれる問題です (Wiens et al. 2019)。

医療分野での具体例を考えてみましょう。ある皮膚がん診断AIを、主に肌の色が白い人々のデータだけで学習させたとします。すると、このAIは肌の色が濃い人々の皮膚がんを見逃す可能性が高くなるかもしれません (Adamson & Smith 2018)。

さらにインパクトの大きい事例として、米国の数百万人に適用された健康管理アルゴリズムの研究があります。このAIは、過去の医療費を健康ニーズの代理指標として利用していましたが、黒人患者は同程度の健康状態の白人患者に比べて医療アクセスや費用の面で不利な状況にあるため、AIが彼らの健康リスクを過小評価してしまうという深刻な人種的バイアスが生じていました。調査によると、このバイアスを修正した場合、AIから追加的な支援が必要だと判断される黒人患者の割合が17.7%から46.5%へと大幅に増加する可能性が示されました (Obermeyer et al. 2019)。

私たちが目指すのは、AIによって誰もが質の高い医療を受けられる未来のはずです。そのためには、開発段階からデータの多様性に細心の注意を払い、様々な集団で公平に機能するかを検証し続ける姿勢が不可欠となります。

個人の尊厳を守る「データプライバシー」

医療データは、単なる情報の集まりではありません。それは、一人の人間の人生そのものであり、最も慎重に扱われるべき個人情報です。AIの開発には大量のデータが必要ですが、その利用は患者さんのプライバシー保護と常に両輪でなければなりません。

日本では、個人情報保護法や、医療情報システムに関する国のガイドラインが、医療データを取り扱う上での法的・技術的な安全基準を定めています。特に、厚生労働省による「医療情報システムの安全管理に関するガイドライン」と、経済産業省・総務省による「医療情報を取り扱う情報システム・サービスの提供事業者における安全管理ガイドライン」（事業者向けガイドライン）は、医療機関と関連事業者が遵守すべき重要な指針です (厚生労働省 2023; 経済産業省・総務省 2023)。

データを安全に利活用するために、「匿名化」という言葉をよく耳にしますが、法律上は厳密な区別があることを知っておく必要があります。個人情報保護委員会のガイドラインでは、特定の個人を復元できないように加工する「匿名加工情報」と、他の情報と照合しない限り個人を識別できないようにした「仮名加工情報」が定義されています (個人情報保護委員会 2022)。どちらの手法を用いるかは、研究や開発の目的に応じて適切に選択し、厳格な管理手順のもとで運用されなければなりません。

どのような形であれ、データを利活用する際には、患者さん本人から明確な同意（インフォームド・コンセント）を得ることが大原則です。

最後の砦としての「医療者の責任」

AIが診断を提案し、治療方針を推奨する。そんな時代が当たり前になったとき、もし医療過誤が起きたら、その責任は誰が負うのでしょうか？AI開発者？病院？それとも…？

これは非常に難しい問題ですが、現行の法解釈におけるコンセンサスは明確です。それは、「最終的な臨床判断の責任は、AIではなく、それを利用する医療者が負う」というものです (Price, Gerke & Cohen 2019)。

AIを「非常に高性能なナビゲーションシステム」に例えてみましょう。ナビは最適なルートを提案してくれますが、最終的にハンドルを握り、周囲の安全を確認し、運転の判断を下すのはドライバー自身です。

医療も同じです。AIは強力な意思決定支援ツールですが、あくまで「ツール」です。AIの提案を参考にしつつも、目の前の患者さん独自の状況、価値観、そして私たち自身の専門的知識と経験を総動員して、最終的な判断を下す。その責任と覚悟が、これからの時代の医療者には一層強く求められるのです。

また、AIを医療機器として安全に運用し続けるための国際的な原則も整備されつつあります。例えば、米国食品医薬品局（FDA）などが提唱するGMLP（Good Machine Learning Practice）は、データ品質の担保、モデルの継続的な監視、そして性能が変化した場合の管理計画（Plan of Change Control）の重要性など、実用化に向けた指針を示しています (U.S. Food and Drug Administration 2021)。

AIを導入することは、決して私たちの責任を軽くするものではありません。むしろ、新しい道具を正しく使いこなし、管理し続けるという、新たな責任が加わるのだと心に刻む必要があります。

まとめ：AIは「道具」、使い手は私たち

AIは、医療に革命をもたらす可能性を秘めた、信じられないほど強力な道具です。しかし、どんなに優れた道具も、それを使う人間次第で、薬にも毒にもなり得ます。

私たちがAIという新しいパートナーと手を取り合って、より良い医療を実現するためには、その性能を理解するだけでなく、倫理というコンパスを常に携え、自問し続ける姿勢が不可欠です。

• そのAIの判断は、なぜそうなったのか説明でき、その限界も理解しているか？（説明可能性）
• そのAIは、すべての人を公平に扱っているか？（公平性）
• 患者さんの大切な情報は、守られているか？（プライバシー）
• そして、最終的な判断を下す責任は、自分にあると覚悟できているか？（医療者の責任）

このコンパスを心に刻み、常に倫理的な視点からAIを見つめること。それが、AI時代の医療を担う私たち一人ひとりに課せられた、新しい、そして最も重要な責務なのかもしれません。

※本記事は情報提供を目的としたものであり、特定の治療法を推奨するものではありません。健康に関するご懸念やご相談は、必ず専門の医療機関にご相談ください。

参考文献

• 厚生労働省 (2023). 医療情報システムの安全管理に関するガイドライン 第6.0版. https://www.mhlw.go.jp/stf/shingi/0000516275_00006.html
• 経済産業省・総務省 (2023). 医療情報を取り扱う情報システム・サービスの提供事業者における安全管理ガイドライン 第2.0版.
• 個人情報保護委員会 (2022). 個人情報の保護に関する法律についてのガイドライン（仮名加工情報・匿名加工情報編）.
• U.S. Food and Drug Administration, Health Canada, and the UK’s Medicines and Healthcare products Regulatory Agency (2021). Good Machine Learning Practice for Medical Device Development: Guiding Principles. https://www.fda.gov/medical-devices/software-medical-device-samd/good-machine-learning-practice-medical-device-development-guiding-principles
• Char, D.S., Shah, N.H. and Magnus, D. (2018). Implementing Machine Learning in Health Care — Addressing Ethical Challenges. New England Journal of Medicine, 378(11), pp.981–983. doi:10.1056/NEJMP1714229 PMID:29539284
• Wiens, J., Saria, S., Sendak, M., Ghassemi, M., Liu, V.X., Doshi-Velez, F., Jung, K., Heller, K., Kale, D., Mohammed, A., Calvert, J., Ratliff, W., Shickel, B., Fiterau, M. and Moore, J. (2019). ‘Do no harm’: a roadmap for responsible machine learning for health care. Nature Medicine, 25(9), pp.1337–1340. doi:10.1038/s41591-019-0548-6 PMID:31501623
• Ghassemi, M., Oakden-Rayner, L. and Beam, A.L. (2021). The false hope of current approaches to explainable artificial intelligence in health care. The Lancet Digital Health, 3(11), pp.e745–e750. doi:10.1016/S2589-7500(21)00208-9 PMID:34711322
• Obermeyer, Z., Powers, B., Vogeli, C. and Mullainathan, S. (2019). Dissecting racial bias in an algorithm used to manage the health of populations. Science, 366(6464), pp.447–453. doi:10.1126/science.aax2342 PMID:31649194
• Adamson, A.S. and Smith, A. (2018). Machine Learning and Health Care Disparities in Dermatology. JAMA Dermatology, 154(11), pp.1247–1248. doi:10.1001/jamadermatol.2018.2348 PMID:30073281
• Rudin, C. (2019). Stop explaining black box machine learning models for high-stakes decisions and use interpretable models instead. Nature Machine Intelligence, 1(5), pp.206–215. doi:10.1038/s42256-019-0048-x
• Selvaraju, R.R., Cogswell, M., Das, A., Vedantam, R., Parikh, D. and Batra, D. (2020). Grad-CAM: Visual Explanations from Deep Networks via Gradient-Based Localization. International Journal of Computer Vision, 128(2), pp.336–359. doi:10.1007/s11263-019-01228-7
• Price, W.N., Gerke, S. and Cohen, I.G. (2019). Potential Liability for Physicians Using Artificial Intelligence. JAMA, 322(18), p.1765. doi:10.1001/jama.2019.15064 PMID:31638611

---

ご利用規約（免責事項）

当サイト（以下「本サイト」といいます）をご利用になる前に、本ご利用規約（以下「本規約」といいます）をよくお読みください。本サイトを利用された時点で、利用者は本規約の全ての条項に同意したものとみなします。

第1条（目的と情報の性質）

1. 本サイトは、医療分野におけるAI技術に関する一般的な情報提供および技術的な学習機会の提供を唯一の目的とします。
2. 本サイトで提供されるすべてのコンテンツ（文章、図表、コード、データセットの紹介等を含みますが、これらに限定されません）は、一般的な学習参考用であり、いかなる場合も医学的な助言、診断、治療、またはこれらに準ずる行為（以下「医行為等」といいます）を提供するものではありません。
3. 本サイトのコンテンツは、特定の製品、技術、または治療法の有効性、安全性を保証、推奨、または広告・販売促進するものではありません。紹介する技術には研究開発段階のものが含まれており、その臨床応用には、さらなる研究と国内外の規制当局による正式な承認が別途必要です。
4. 本サイトは、情報提供を目的としたものであり、特定の治療法を推奨するものではありません。健康に関するご懸念やご相談は、必ず専門の医療機関にご相談ください。

第2条（法令等の遵守）
利用者は、本サイトの利用にあたり、医師法、医薬品、医療機器等の品質、有効性及び安全性の確保等に関する法律（薬機法）、個人情報の保護に関する法律、医療法、医療広告ガイドライン、その他関連する国内外の全ての法令、条例、規則、および各省庁・学会等が定める最新のガイドライン等を、自らの責任において遵守するものとします。これらの適用判断についても、利用者が自ら関係各所に確認するものとし、本サイトは一切の責任を負いません。

第3条（医療行為における責任）

1. 本サイトで紹介するAI技術・手法は、あくまで研究段階の技術的解説であり、実際の臨床現場での診断・治療を代替、補助、または推奨するものでは一切ありません。
2. 医行為等に関する最終的な判断、決定、およびそれに伴う一切の責任は、必ず法律上その資格を認められた医療専門家（医師、歯科医師等）が負うものとします。AIによる出力を、資格を有する専門家による独立した検証および判断を経ずに利用することを固く禁じます。
3. 本サイトの情報に基づくいかなる行為によって利用者または第三者に損害が生じた場合も、本サイト運営者は一切の責任を負いません。実際の臨床判断に際しては、必ず担当の医療専門家にご相談ください。本サイトの利用によって、利用者と本サイト運営者の間に、医師と患者の関係、またはその他いかなる専門的な関係も成立するものではありません。

第4条（情報の正確性・完全性・有用性）

1. 本サイトは、掲載する情報（数値、事例、ソースコード、ライブラリのバージョン等）の正確性、完全性、網羅性、有用性、特定目的への適合性、その他一切の事項について、何ら保証するものではありません。
2. 掲載情報は執筆時点のものであり、予告なく変更または削除されることがあります。また、技術の進展、ライブラリの更新等により、情報は古くなる可能性があります。利用者は、必ず自身で公式ドキュメント等の最新情報を確認し、自らの責任で情報を利用するものとします。

第5条（AI生成コンテンツに関する注意事項）
本サイトのコンテンツには、AIによる提案を基に作成された部分が含まれる場合がありますが、公開にあたっては人間による監修・編集を経ています。利用者が生成AI等を用いる際は、ハルシネーション（事実に基づかない情報の生成）やバイアスのリスクが内在することを十分に理解し、その出力を鵜呑みにすることなく、必ず専門家による検証を行うものとします。

第6条（知的財産権）

1. 本サイトを構成するすべてのコンテンツに関する著作権、商標権、その他一切の知的財産権は、本サイト運営者または正当な権利を有する第三者に帰属します。
2. 本サイトのコンテンツを引用、転載、複製、改変、その他の二次利用を行う場合は、著作権法その他関連法規を遵守し、必ず出典を明記するとともに、権利者の許諾を得るなど、適切な手続きを自らの責任で行うものとします。

第7条（プライバシー・倫理）
本サイトで紹介または言及されるデータセット等を利用する場合、利用者は当該データセットに付随するライセンス条件および研究倫理指針を厳格に遵守し、個人情報の匿名化や同意取得の確認など、適用される法規制に基づき必要とされるすべての措置を、自らの責任において講じるものとします。

第8条（利用環境）
本サイトで紹介するソースコードやライブラリは、執筆時点で特定のバージョンおよび実行環境（OS、ハードウェア、依存パッケージ等）を前提としています。利用者の環境における動作を保証するものではなく、互換性の問題等に起因するいかなる不利益・損害についても、本サイト運営者は責任を負いません。

第9条（免責事項）

1. 本サイト運営者は、利用者が本サイトを利用したこと、または利用できなかったことによって生じる一切の損害（直接損害、間接損害、付随的損害、特別損害、懲罰的損害、逸失利益、データの消失、プログラムの毀損等を含みますが、これらに限定されません）について、その原因の如何を問わず、一切の法的責任を負わないものとします。
2. 本サイトの利用は、学習および研究目的に限定されるものとし、それ以外の目的での利用はご遠慮ください。
3. 本サイトの利用に関連して、利用者と第三者との間で紛争が生じた場合、利用者は自らの費用と責任においてこれを解決するものとし、本サイト運営者に一切の迷惑または損害を与えないものとします。
4. 本サイト運営者は、いつでも予告なく本サイトの運営を中断、中止、または内容を変更できるものとし、これによって利用者に生じたいかなる損害についても責任を負いません。

第10条（規約の変更）
本サイト運営者は、必要と判断した場合、利用者の承諾を得ることなく、いつでも本規約を変更することができます。変更後の規約は、本サイト上に掲載された時点で効力を生じるものとし、利用者は変更後の規約に拘束されるものとします。

第11条（準拠法および合意管轄）
本規約の解釈にあたっては、日本法を準拠法とします。本サイトの利用および本規約に関連して生じる一切の紛争については、東京地方裁判所を第一審の専属的合意管轄裁判所とします。

---

For J³, may joy follow you.