Advertisement

Artificial Intelligence in Healthcare: Doctors, Patients and Liabilities

  • Fruzsina Molnár-GáborEmail author
Chapter

Abstract

AI is increasingly finding its way into medical research and everyday healthcare. However, the clear benefits offered to patients are accompanied not only by general limitations typical of the application of AI systems but also by challenges that specifically characterize the operationalization of the concepts of disease and health. Traditionally, these challenges have been dealt with in the physician-patient relationship in both medical ethics and civil law. The potential for incorrect decisions (and the question of who is responsible for such decisions) in cases where AI is used in a medical context calls for a differentiated implementation of medical ethical principles and a graduated model of liability law. Nevertheless, on closer examination of both fields covering relevant obligations towards patients and users against the backdrop of current medical use cases of AI, it seems that despite a certain level of differentiation in the assignment of responsibilities through rules on liability, those affected, in the end, are generally left to deal with any AI-specific risks and damages on their own. The role played by the physician in all this remains unclear. Taking into account the physician-patient relationship as a contractual obligation in a broad sense can assist in clarifying physicians’ roles and determining their duties in a sustainable and patient-friendly manner when applying AI-based medical systems. This can contribute to reinforcing their established ethical and legal status in the context of AI applications.

Notes

Acknowledgement

FMG acknowledges funding by the Volkswagen Foundation.

References

  1. Aftergood S (2018) JASON: artificial intelligence for healthcare. Federation of American Scientists. Secrecy News of 1st February 2018. https://fas.org/blogs/secrecy/2018/02/ai-health-care/. Accessed 05 Jan 2018
  2. Albu A, Stanciu LM (2015) Benefits of using artificial intelligence in medical predictions. Conference Paper.  https://doi.org/10.1109/EHB.2015.7391610
  3. Backmann B (2012) Produkthaftung bei Medizinprodukten. Medizin Produkte Recht:37Google Scholar
  4. Beauchamp TL, Childress JF (2013) Principles of biomedical ethics, 7th edn. Oxford University Press, OxfordGoogle Scholar
  5. Biegel B, Kurose JF (2016) The National artificial intelligence research and development strategic planGoogle Scholar
  6. Blechschmitt L (2016) Die straf- und zivilrechtliche Haftung des Arztes beim Einsatz roboterassistierter Chirurgie. Nomos, Baden-BadenGoogle Scholar
  7. Boyd K (2006) Medical ethics: hippocratic and democratic ideals. In: McLean S (ed) First do not harm. Law, ethics and healthcare. Routledge, Hampshire, pp 29–38Google Scholar
  8. Brüggemeier G (1999) Prinzipien des Haftungsrechts. Nomos, Baden BadenGoogle Scholar
  9. Clouser D, Gert B (1990) A critique of principialism. J Med Philos 15:219–236CrossRefGoogle Scholar
  10. Denga M (2018) Deliktische Haftung für künstliche Intelligenz. Computer und Recht 34:69–77CrossRefGoogle Scholar
  11. Dierks C (2018) Wer haftet bei KI-Fehlern? Ärzte Zeitung online. Article of 19th December 2018. https://www.aerztezeitung.de/praxis_wirtschaft/w_specials/kuenstliche_intelligenz/article/978619/kuenstliche-intelligenz-haftet-ki-fehlern.html. Accessed 05 June 2019
  12. Dressler WD (2010) Ärztliche Leitlinien und Arzthaftung. In: Bradner HE, Hagen H, Stürner R (eds) Festschrift für Karlsmann Geiß zum 65. Geburtstag, Köln/Berlin/Bonn/München, pp 379–388Google Scholar
  13. Droste W (2018) Intelligente Medizinprodukte. Verantwortlichkeiten des Herstellers und ärztliche Sorgfaltspflichten. Medizin Produkte Recht:109–112Google Scholar
  14. Düwell M (2008) Bioethik. Methoden, Theorien und Bereiche. Perlentaucher, Stuttgart/WeimarGoogle Scholar
  15. Ebers M (2017) Autonomes Fahren: Produkt- und Produzentenhaftung. In: Oppermann H, Stender-Vorwachs J (eds) Autonomes Fahren. Rechtsfolgen, Rechtsprobleme, technische Grundlagen. C.H. Beck, München, pp 93–125Google Scholar
  16. Eckart WU (2013) Geschichte, Theorie und Ethik der Medizin. Springer, BerlinCrossRefGoogle Scholar
  17. Edelhäuser R (2014) § 6 MPG. In: Prütting D (ed) Fachanwalts-Kommentar Medizinrecht, 4th edn. Luchterhand, MünchenGoogle Scholar
  18. Elwyn G, Frosch D, Thomson R et al (2012) Shared decision making: a model for clinical practice. J Gen Intern Med 27:1361–1367CrossRefGoogle Scholar
  19. Emanuel EJ, Emanuel LL (2012) Vier Modelle der Arzt-Patienten-Beziehung. In: Wiesing U (ed) Ethik in der Medizin, 4th edn. Reclam, Stuttgart, pp 107–110Google Scholar
  20. Foerste U (2012) Verkehrspflichten im Bereich der Warensicherung. In: Foerste U, Graf von Westphalen F (eds) Produkthaftungshandbuch, 3rd edn. C.H. Beck, MünchenGoogle Scholar
  21. Future Advocacy (2018) Ethical, social and political challenges of Artificial Intelligence in health. A report with the Wellcome trust. https://wellcome.ac.uk/sites/default/files/ai-in-health-ethical-social-political-challenges.pdf. Accessed 06 Jan 2019
  22. Gehrlein M (2018) Arzthaftungsrecht, 3rd edn. C.H. Beck, MünchenGoogle Scholar
  23. Greiner H-P (2018) § 839 BGB. In: Spickhoff A (ed) Kommentar zum Medizinrecht, 3rd edn. C.H. Beck, MünchenGoogle Scholar
  24. Grüneberg C (2011) § 241. In: Palandt O (ed) BGB, 70th edn. C.H. Beck, MünchenGoogle Scholar
  25. Haenssle HA, Fink C, Schneiderbauer R et al (2018) Man against machine: diagnostic performance of a deep learning convolutional neural network for dermoscopic melanoma recognition in comparison to 58 dermatologists. Ann Oncol. 29:1836–1842CrossRefGoogle Scholar
  26. Hager J (2017) § 823. In: Staudinger Kommentar zum Bürgerlichen Gesetzbuch. De Gruyter, BerlinGoogle Scholar
  27. Hart D (1998) Ärztliche Leitlinien, Definitionen, Funktionen, rechtliche Bewertungen, MMR 8–16Google Scholar
  28. Heil M, Sandrock A (2017) Produkthaftung für Medizinprodukte. In: Anhalt E, Dieners P (eds) Praxishandbuch Medizinprodukterecht, 2nd edn. C.H. Beck, MünchenGoogle Scholar
  29. House of Lords. Select Committee on Artificial Intelligence (2018) AI in the UK: ready, willing and able. HL Paper 100. https://publications.parliament.uk/pa/ld201719/ldselect/ldai/100/100.pdf. Accessed 06 Jan 2019
  30. Janda C (2013) Medizinrecht, 2nd edn. C.H. Beck, MünchenGoogle Scholar
  31. Jansen N (2003) Die Struktur des Haftungsrechts. Mohr Siebeck, TübingenGoogle Scholar
  32. Jones MA (1999) Informed consent and other fairy stories. Med Law Rev 7:103–134CrossRefGoogle Scholar
  33. Katzenmeier C (2016) § 823. In: Dauner-Lieb B, Langen W (eds) Commentary BGB-Schuldrecht, 3rd edn. Nomos, Baden BadenGoogle Scholar
  34. Keßler O (2017) Intelligente Roboter – neue Technologien im Einsatz. Multimedia und Recht 20:589–594Google Scholar
  35. Kluth W (2008) Juristische Bewertung des Status quo: Stärkung der Autonomie oder Verlust der Freiberuflichkeit? In: Wienke A, Dierks C, Deutsche Gesellschaft für Medizin und Recht (eds) Zwischen Hippokrates und Staatsmedizin. Der Arzt am Beginn des 21. Jahrhunderts – 25 Jahre DGMR. Springer, BerlinGoogle Scholar
  36. Lanzerath D, Honnefelder L (2000) Krankheitsbegriff und ärztliche Anwendung. In: Düwell M, Mieth D (eds) Ethik in der Humangenetik. Die neueren Entwicklungen der genetischen Frühdiagnostik aus ethischer Perspektive, 2nd edn. Francke, Tübingen, pp 51–77Google Scholar
  37. Laufs A (1999) Zur Freiheit des Arztberufs. In: Ahrens H-J, von Bar C, Fischer G et al (eds) Festschrift für Erwin Deutsch. Carl Heymanns, Köln, pp 625–633Google Scholar
  38. Laufs A (2002) Informed consent und ärztlicher Heilauftrag. In: Hillenkamp T (ed) Medizinrechtliche Probleme der Humangenetik. Springer, Berlin, pp 119–139CrossRefGoogle Scholar
  39. Laufs A (2015) Wesen und Inhalt des Arztrechts. In: Laufs A, Katzenmeier C, Lipp V (eds) Arztrecht, 7th edn. C.H. Beck, München, pp 3–28Google Scholar
  40. Loder J, Nicholas L (2018) Confronting Dr. Robot. Creating a people-powered future for AI in health. Nesta Health Lab, May 2018. https://media.nesta.org.uk/documents/confronting_dr_robot.pdf. Accessed 05 Jan 2019
  41. Maclean A (2009) Autonomy, informed consent and medical law. A relational challenge. Cambridge University Press, CambridgeCrossRefGoogle Scholar
  42. Mansel HP (2011) § 241. In: Jauernig O (ed) BGB. Kommentar, 14th edn. C.H. Beck, MünchenGoogle Scholar
  43. Marckmann G, Bormuth M, Wiesing U (2012) Allgemeine Einführung in die medizinische Ethik. In: Urban W (ed) Ethik in der Medizin, 4th edn. Reclam, Stuttgart, pp 23–37Google Scholar
  44. Meyer S (2018) Künstliche Intelligenz und die Rolle des Rechts für Innovation. ZRP 51:233–238Google Scholar
  45. Mittelstadt B (2017) The doctor will not see you now. In: Otto P, Gräf E (eds) 3TH1CS: a reinvention of ethics in the digital age? iRights Media, Berlin, pp 68–77Google Scholar
  46. Molnár-Gábor F (2017) Die Regelung der Biotechnologie am Beispiel des Umgangs mit neuen genetischen Analysen. Duncker und Humblot, BerlinGoogle Scholar
  47. Nuffield Council on Bioethics (2018) Artificial Intelligence (AI) in healthcare and research. Bioethics Briefing Note. May 2018. http://nuffieldbioethics.org/wp-content/uploads/Artificial-Intelligence-AI-in-healthcare-and-research.pdf. Accessed 06 Jan 2019
  48. Oechsler J (2013) Produkthaftungsgesetz. In: Staudinger Kommentar zum Bürgerlichen Gesetzbuch. De Gruyter, BerlinGoogle Scholar
  49. Ortner R, Daubenbüchel F (2016) Medizinprodukte 4.0 – Haftung, Datenschutz, IT-Sicherheit. Neue Juristische Wochenschrift 69:2918–2924Google Scholar
  50. Parks A (2010) Lifting the Burden of Women’s Care work: should robots replace the ‘Human Touch’? Hypatia 25:100–120CrossRefGoogle Scholar
  51. Quaas M (2018) Die Rechtsbeziehungen zwischen Arzt (Krankenhaus) und Patient. In: Quaas M, Zuck R, Clemens T (eds) Medizinrecht, 4th edn. C.H. Beck, München, pp 240–293Google Scholar
  52. Ranschaert E, Morozov S, Algra P et al (2019) Artificial intelligence in medical imaging. Opportunities, applications and risks. Springer, BerlinCrossRefGoogle Scholar
  53. Rössler D (2011) Vom Sinn der Krankheit. In: Voigt F (ed) Akzeptierte Abhängigkeit. Gesammelte Aufsätze zur Ethik, 211Google Scholar
  54. Rolland W (1990) Produkthaftungsrecht. Rehm, MünchenGoogle Scholar
  55. Sackett DL, Rosenberg WM, Gray JA et al (1996) Evidence based medicine: what it is and what it isn’t. Br Med J 312(7023):71–72CrossRefGoogle Scholar
  56. Schmidt E (1957) Der Arzt im Strafrecht. In: Ponsold A (ed) Lehrbuch der gerichtlichen Medizin, 2nd edn. Thieme Georg, Stuttgart, pp 1–65Google Scholar
  57. Schneider L (2010) Neue Behandlungsmethoden im Arzthaftungsrecht. Behandlungsfehler – Aufklärungsfehler – Versicherung. Springer, BerlinCrossRefGoogle Scholar
  58. Scholz K (2018) § 10 MBÖ-Ä 1997. In: Spickhoff A (ed) Kommentar zum Medizinrecht, 3rd edn. C. H. Beck, MünchenGoogle Scholar
  59. Schöne-Seifert B (2007) Grundlagen der Medizinethik. Kröner, StuttgartGoogle Scholar
  60. Schreiber K (2019) § 630h BGB. In: Nomos Handkommentar zum BGB, 10th edn. Nomos, Baden BadenGoogle Scholar
  61. Sharkey A, Sharkey N (2012) Granny and the robots: ethical issues in robot care for the elderly. Ethics Inf Technol 14:27–40CrossRefGoogle Scholar
  62. Spickhoff A (2018a) § 630a BGB. In: Spickhoff A (ed) Kommentar zum Medizinrecht, 3rd edn. C.H. Beck, MünchenGoogle Scholar
  63. Spickhoff A (2018b) § 630b BGB. In: Spickhoff A (ed) Kommentar zum Medizinrecht, 3rd edn. C.H. Beck, MünchenGoogle Scholar
  64. Spindler G (2015) Automation, künstliche Intelligenz, selbststeuernde Kfz – Braucht das Recht neue Haftungskategorien? Computer und Recht 20:767–776Google Scholar
  65. Spindler G (2018) § 823 BGB. In: Beck Online Großkommentar. C.H. Beck, MünchenGoogle Scholar
  66. Spranger TM (2010) Recht und Bioethik. Mohr Siebeck, TübingenCrossRefGoogle Scholar
  67. Steffen E (1995) Einfluss verminderter Ressourcen und von Finanzierungsgrenzen aus dem Gesundheitsstrukturgesetz auf die Arzthaftung. Medizinrecht 13:190–191Google Scholar
  68. Taupitz J (2002) Grenzen der Patientenautonomie. In: Brugger W, Haverkate G (eds) Grenzen als Thema der Rechts- und Sozialphilosophie. ARSP-Beihefte 84. Franz Steiner, Stuttgart, pp 83–132Google Scholar
  69. Taupitz J (2011) Medizinische Informationstechnologie, leitliniengerechte Medizin und Haftung des Arztes. Archiv für die civilistische Praxis 211:352–394CrossRefGoogle Scholar
  70. Thiele F (2013) Arzt-Patient Verhältnis und Menschenwürde. In: Joerden JC, Hilgendorf E, Thiele F (eds) Menschenwürde und Medizin. Ein interdisziplinäres Handbuch. Duncker und Humboldt, Berlin, pp 557–570Google Scholar
  71. The Economist (2018) Artificial intelligence will improve medical treatments. 7 June 2018. https://www.economist.com/science-and-technology/2018/06/07/artificial-intelligence-will-improve-medical-treatments
  72. Van Dam C (2014) European tort law, 2nd edn. Oxford University Press, OxfordGoogle Scholar
  73. Wachter R (2015) The digital doctor: hope, hype and harm at the dawn of medicine’s computer age. McGraw-Hill education, New YorkGoogle Scholar
  74. Wagner SA (2018) § 6 MPG. In: Rehmann WA, Wagner SA (eds) Kommentar zum MPG, 3rd edn. C.H. Beck, MünchenGoogle Scholar
  75. Wallach W, Allen C (2008) Moral machines: teaching robots right from wrong. Oxford University Press, OxfordGoogle Scholar
  76. Wiesing U (2005) Vom Nutzen und Nachteil der Prinzipienethik für die Medizin. In: Rauprich O, Steger F (eds) Prinzipienethik in der Biomedizin. Moralphilosophie und medizinische Praxis. Kultur der Medizin, vol 14. Campus Verlag, New York, pp 74–87Google Scholar
  77. Wischmeyer T (2018) Regulierung intelligenter Systeme. Archiv des öffentlichen Rechts 143:1–66CrossRefGoogle Scholar
  78. Yuste R, Goering S, Arcas BAY (2017) Four ethical priorities for neurotechnologies and AI. Nature 551:159–163CrossRefGoogle Scholar
  79. Zech H (2019) Künstliche Intelligenz und Haftungsfragen. ZfPW:198–219Google Scholar

Copyright information

© Springer Nature Switzerland AG 2020

Authors and Affiliations

  1. 1.Heidelberg Academy of Sciences and Humanities, BioQuant CenterHeidelbergGermany

Personalised recommendations