Estandarización y automatización en medicina: El deber de cuidado del profesional entre la legítima confianza y la debida prudencia

Autores/as

Resumen

En la primera parte de este artículo se retoma el debate sobre la responsabilidad penal por mala práctica médica imprudente ante la progresiva estandarización de las prácticas clínicas. Su consideración crítica permite configurar un paradigma de imputación capaz de conjugar los intereses de los pacientes con aquéllos de los profesionales de la salud. En la segunda parte se plantea la hipótesis principal, argumentando cómo el mismo paradigma puede permitir marcar los límites de la responsabilidad del profesional por eventos adversos causados por la adopción de indicaciones erróneas de sistemas de inteligencia artificial. En las conclusiones se destaca cómo todo proceso de uniformación y automatización encuentra límites insuperables en el pluralismo, la autonomía y la ética de la responsabilidad.

Palabras clave:

Estandarización, automatización, principio de confianza, prudencia, inteligencia artificial

Biografía del autor/a

Andrea Perin, Dr., Universidad Andrés Bello

Andrea Perin es licenciado en Derecho (giurisprudenza) por la Università degli Studi di Trento, Italia, Ph.D. en Comparative and European Legal Studies por la misma casa de estudios, y doctor en Derecho por la Universidad del País Vasco/EHU, España. Actualmente se desempeña como profesor investigador de Derecho Penal en la Facultad de Derecho de la Universidad Andrés Bello, Chile.

Referencias

Amoroso, Daniele y Guglielmo Tamburrini (2019), «I sistemi robotici ad autonomia crescente tra etica e diritto: quale ruolo per il controllo umano?». Rivista di Biodiritto, 1: 33-51. Disponible en http://bit.ly/31KjzBC.

Beggio, Giacomo (2019). «Autonomia decisionale nella quotidianità clinica». Rivista di Biodiritto, 1: 261-266. Disponible en http://bit.ly/31B0IbY.

Burgstaller, Manfred (1974). Das Fahrlässigkeitsdelikt im Strafrecht. Unter besonderer Berücksichtigung der Praxis in Verkehrssachen. Viena: Manz.

Cabitza, Federico, Davide Ciucci y Raffaele Rasoini (2019). «A giant with feet of clay: On the validity of the data that feed machine learning in medicine». En Federico Cabitza, Carlo Batini, Massimo Magni (editores), Organizing for the digital world. (pp. 121-136). Cham: Springer. DOI: 10.1007/978-3-319-90503-7_10.

Cancio Meliá, Manuel (1998). Conducta de la víctima e imputación objetiva en Derecho penal. Barcelona: Bosch.

Casonato, Carlo (2012). Introduzione al biodiritto. Turín: Giappichelli.

Celano, Anthony J. (2016). Aristotle’s ethics and medieval philosophy: Moral goodness and practical Wisdom. Cambridge: Cambridge University Press.

Ching, Travers, Daniel S. Himmelstein, Brett K. Beaulieu-Jones, Alexandr A. Kalinin, Brian T. Do, Gregory P. Way, Enrico Ferrero, Paul-Michael Agapow, Michael Zietz, Michael M. Hoffman, Wei Xie, Gail L. Rosen, Benjamin J. Lengerich, Johnny Israeli, Jack Lanchantin, Stephen Woloszynek, Anne E. Carpenter, Avanti Shrikumar, Jinbo Xu, Evan M. Cofer, Christopher A. Lavender, Srinivas C. Turaga, Amr M. Alexandari, Zhiyong Lu, David J. Harris, Dave DeCaprio, Yanjun Qi, Anshul Kundaje, Yifan Peng, Laura K. Wiley, Marwin H. S. Segler, Simina M. Boca, S. Joshua Swamidass, Austin Huang, Anthony Gitter y Casey S. Greene (2018). «Opportunities and obstacles for deep learning in biology and medicine». Journal of the Royal Society Interface, 15 (141): 1-47. DOI: 10.1098/rsif.2017.0387.

Contreras Chaimovich, Lautaro Camilo (2018a). Productos defectuosos y derecho penal: El principio de confianza en la responsabilidad penal por el producto. Santiago: RIL.

Contreras Chaimovich, Lautaro Camilo (2018b). «Reglas extrajurídicas y creaciones de riesgos toleradas o desaprobadas en los delitos culposos de homicidio y lesiones». Política Criminal, 13 (25): 387-444. DOI: 10.4067/S0718-33992018000100387.

Contreras Chaimovich, Lautaro Camilo (2019). «El principio de confianza como criterio delimitador de la responsabilidad penal de los médicos». Acta Bioethica, 25 (1): 35-43. Disponible en http://bit.ly/31FomnX.

Corcoy Bidasolo, Mirentxu (1989). El delito imprudente: Criterios de imputación del resultado. Barcelona: PPU.

Cornacchia, Luigi (2004). Concorso di colpe e principio di responsabilità per fatto proprio. Turín: Giappichelli.

Cupelli, Cristiano (2017). «Lo statuto penale della colpa medica e le incerte novità della legge Gelli-Bianco». Diritto Penale Contemporaneo, 4: 200-216. Disponible en http://bit.ly/31ETcNf.

De Miguel Beriain, Iñigo (2018). «Does the use of risk assessments in sentences respect the right to due process? A critical analysis of the Wisconsin v. Loomis ruling». Law, Probability and Risk, 17 (1): 45-53. DOI: 10.1093/lpr/mgy001.

De Siqueira, José Eduardo (2001). «El principio de responsabilidad de Hans Jonas». Acta Bioethica, 7 (2): 277-285. DOI: 10.4067/S1726-569X2001000200009.

Di Landro, Andrea (2012). Dalle linee guida e dai protocolli all’individualizzazione della colpa penale nel settore sanitario: Misura oggettiva e soggettiva della malpractice. Turín:

Di Landro, Andrea (2018). «Colpa medica, linee guida e buone pratiche: Spunti di riflessione comparatistici. Dalle Sez. Un. «Mariotti» alle esperienze angloamericane». Archivio Penale, 2: 1-21. Disponible en http://bit.ly/31JWQW3.

Donovan, George Edward (1956). «Automation in medicine». British Medical Journal, 2 (4.983): 44-45. Disponible en http://bit.ly/31KLoti.

European Group on Ethics in Science and New Technologies (2018). Artificial intelligence, robotics and «autonomous» systems. Bruselas: Publications Office of the European Union. Disponible en https://bit.ly/2oWuk1W.

Feijóo Sánchez, Bernardo José (2000). «El principio de confianza como criterio normativo de imputación en el derecho penal: Fundamento y consecuencias dogmáticas». Derecho Penal y Criminología, 21 (69): 93-138. Disponible en http://bit.ly/31I1TGK.

Feijóo Sánchez, Bernardo José (2001). Resultado lesivo e imprudencia: Estudio sobre los límites de la responsabilidad penal por imprudencia y el criterio del «fin de protección de la norma de cuidado». Barcelona: Bosch.

Fernández Cruz, José Ángel (2002). «El delito imprudente: La determinación de la diligencia debida en el seno de las organizaciones». Revista de Derecho (Valdivia), 13: 101-121. Disponible en http://bit.ly/31TchLY.

Ferrante di Ruffano, Lavinia, Yemisi Takwoingi, Jacqueline Dinnes, Naomi Chuchu, Susan E. Bayliss, Clare Davenport, Rubeta N. Matin, Kathie Godfrey, Colette O’Sullivan, Abha Gulati, Sue Ann Chan, Alana Durack, Susan O’Connell, Matthew D. Gardiner, Jeffrey Bamber, Jonathan J. Deeks, Hywel C. Williams, Cochrane Skin Cancer Diagnostic Test Accuracy Group (2018). «Computer-assisted diagnosis techniques (dermoscopy and spectroscopy-based) for diagnosing skin cancer in adults». Cochrane Database of Systematic Reviews, 12: 1-343. DOI: 10.1002/14651858.CD013186.

Finder, Jodi M. (2000). «The future of practice guidelines: Should they constitute conclusive evidence of the standard of care?». Health Matrix, 10 (1): 67-117. Disponible en http://bit.ly/31KkQZe.

Floridi, Luciano (2019). «What the near future of artificial intelligence could be». Philosophy & Technology, 32 (1): 1-15. DOI: 10.1007/s13347-019-00345-y.

Forti, Gabrio (1990). Colpa ed evento nel diritto penale. Milán: Giuffrè.

Frakes, Michael (2013). «The impact of medical liability standards on regional variations in physician behavior: Evidence from the adoption of national-standard rules». The American Economic Review, 103 (1): 257-276. DOI: 10.1257/aer.103.1.257.

Freeman, Katherine (2016). «Algorithmic injustice: How the Wisconsin Supreme Court failed to protect due process rights in State v. Loomis». The North Carolina Journal of Law & Technology, 18: 75-106. Disponible en http://bit.ly/31LNCsm.

Friedman, Charles P. (2009). «A «fundamental theorem» of biomedical informatics». Journal of the American Medical Informatics Association, 16 (2): 169-170. DOI: 10.1197/jamia.M3092.

Frisch, Wolfgang (2004). Comportamiento típico e imputación del resultado. Madrid: Marcial Pons.

Galimberti, Umberto (2009). «Man in the age of technology». Journal of Analytical Psychology, 54 (1): 3-17. DOI: 10.1111/j.1468-5922.2008.01753.x.

Glass, Gene V. (1976). «Primary, secondary and metanalysis of research». Educational Research, 5: 3-8. DOI: 10.3102/0013189X005010003.

González-Ferrer, Arturo, Miguel Ángel Valcárcel, Martín Cuesta, Joan Cháfer e Isabelle Runkle (2017). «Development of a computer-interpretable clinical guideline model for decision support in the differential diagnosis of hyponatremia». International Journal of Medical Informatics, 103: 55-64. DOI: 10.1016/j.ijmedinf.2017.04.014.

Greco, Monica (2016). «What is the DSM? Diagnostic manual, cultural icon, political battleground: an overview with suggestions for a critical research agenda». Psychology & Sexuality, 7 (1): 6-22. DOI: 10.1080/19419899.2015.1024470.

Grossman, Jonathan H. (2018). «Standardization (standardisation)». Critical Inquiry, 44 (3): 447-478. DOI: 10.1086/696912.

Haskel, Michael A. (2007). «A proposal for addressing the effects of hindsight and positive outcome biases in medical malpractice cases». Tort Trial & Insurance Practice Law Journal, 42 (3): 895-940. Disponible en http://bit.ly/2N2y6oM.

Jorge-Barreiro, Agustín (1990). La imprudencia punible en la actividad médico-quirúrgica. Madrid: Tecnos.

Kinsella, Elizabeth Anne y Allan Pitman (2012). Phronesis as professional knowledge: Practical wisdom in the professions. Róterdam: Sense Publishers.

Kirschbaum, Klaus (1980). Der Vertrauensschutz im deutschen Straßenverkehrsrecht. Berlín: Duncker & Humblot.

LeCun, Yann, Yoshua Bengio y Geoffrey Hinton (2015). «Deep learning». Nature, 521: 436-444. DOI: 10.1038/nature14539.

Liang, Matthew H. (1992). «From America: Cookbook medicine or food for thought. Practice guideline development in the USA». Annals of Rheumatic Diseases 51: 1.257-1.258. Disponible en https://bit.ly/2KG99h0.

Maletta, Sante (1999). «Il totalitarismo come forma di pensiero». La Nuova Europa, 6: 78-86. Disponible en http://bit.ly/2WVUIXU.

Mantovani, Marco (1997). Il principio di affidamento nella teoria del reato colposo. Milán: Giuffrè.

Mañalich, Juan Pablo (2015). «La imprudencia como estructura de imputación». Revista de Ciencias Penales, 42 (3): 13-36. Disponible en http://bit.ly/2MZSp6u.

Maraver Gómez, Mario (2009). El principio de confianza en derecho penal: Un estudio sobre la aplicación del principio de autorresponsabilidad en la teoría de la imputación objetiva. Cizur Menor: Civitas.

Mello, Michelle M. (2001). «Of swords and shields: The role of clinical practice guidelines in medical malpractice litigation». University Pennsylvania Law Review, 149 (3): 645-710. DOI: 10.2307/3312867.

Menden, Michael P., Francesco Iorio, Mathew Garnett, Ultan McDermott, Cyril H. Benes, Pedro J. Ballester y Julio Saez-Rodriguez (2013). «Machine Learning Prediction of Cancer Cell Sensitivity to Drugs Based on Genomic and Chemical Properties». Plos One, 8 (4): 1-7. DOI: 10.1371/journal.pone.0061318.

Mirsky, Yisroel, Tom Mahler, Ilan Shelef y Yuval Elovici (2019). «CT-GAN: Malicious tampering of 3D medical imagery using deep learning». Proceedings of the 28th USENIX Security Symposium (USENIX Security 2019). Disponible en https://arxiv.org/abs/1901.03597.

Montanari Vergallo, Gianluca, Raffaella Rinaldi, Giuseppe Bersani y Enrico Marinelli (2017). «Medico-legal notes for a new set of standards in the assessment of penal liability in psychiatry». Rivista di Psichiatria, 52 (1): 16-23. DOI: 10.1708/2631.27050.

Oeberst, Aileen e Ingke Goeckenjan (2016). «When being wise after the event results in injustice: Evidence for hindsight bias in judges’ negligence assessments». Psychology, Public Policy, and Law, 22 (3): 271-279. DOI: 10.1037/law0000091.

Ojeda, Dagoberto y Javiera Wurth (2014). «¿Qué es un metaanálisis?». Revista Chilena de Anestesia, 43: 343-350. Disponible en http://bit.ly/2N9zs0W.

Perin, Andrea (2014). «La crisi del «modello nomologico» fra spiegazione e prevedibilità dell’evento nel diritto penale: Note introduttive e questioni preliminari sul fatto tipico colposo». Rivista Italiana di Diritto e Procedura Penale, 57 (3): 1.371-1.409. Disponible en http://bit.ly/2MYwrAB.

Perin, Andrea (2017). «La condotta lesiva colposa: Una prospettiva ricostruttiva». Política Criminal, 12 (23): 207-266. DOI: 10.4067/S0718-33992017000100007.

Perin, Andrea (2018). «La redefinición de la culpa (imprudencia) penal médica ante el fenómeno de la medicina defensiva: Bases desde una perspectiva comparada». Política Criminal, 13 (26): 858-903. DOI: 10.4067/S0718-33992018000200858.

Perin, Andrea (2019). «Standardizzazione, automazione e responsabilità medica. Dalle recenti riforme alla definizione di un modello d’imputazione solidaristico e liberale». Rivista di Biodiritto, 1: 207-235. Disponible en https://bit.ly/31SiojB.

Rogers, Wendy y Katrina Hutchison (2015). «Evidence-based medicine in theory and practice: Epistemological and normative issues». En Thomas Schramme y Steven Edwards (editores), Handbook of the Philosophy of Medicine (pp. 1-18). Dordrecht: Springer. DOI: 10.1007/978-94-017-8706-2_40-1.

Romeo Casabona, Carlos María (2005). Conducta peligrosa e imprudencia en la sociedad de riesgo. Granada: Comares.

Romeo Casabona, Carlos María (2011). El médico y el derecho penal: La actividad curativa. Licitud y responsabilidad penal. Santa Fe: Rubinzal-Culzoni.

Rosoff, Arnold J. (2001). «Evidence-based medicine and the law: The courts confront clinical practice guidelines». Journal of Health Politics, Policy & Law, 26 (2): 327-368. DOI: 10.1215/03616878-26-2-327.

Rueda Martín, M. Ángeles (2009). «La concreción del deber objetivo de cuidado en el desarrollo de la actividad médico-quirúrgica curativa». InDret Penal, (4): 1-58. Disponible en http://bit.ly/2IUXF5R.

Sackett, David L., William M. C Rosenberg, J. A. Muir Gray, R. Brian Haynes y W. Scott Richardson (1996). «Evidence based medicine: what it is and what it isn’t (it’s about integrating individual clinical expertise and the best external evidence)». British Medical Journal, 321 (7.023): 71-72. DOI: 10.1136/bmj.312.7023.71.

Samanta, Ash, Michelle Mello, Charles Foster, John Tingle y Jo Samanta (2006). «The role of clinical guidelines in medical negligence litigation: A shift from the Bolam standard?». Medical Law Review, 14 (3): 321-366. DOI: 10.1093/medlaw/fwl010.

Sánchez-Tapia, María Guadalupe (2015). «La prudencia como sabiduría práctica bajo la perspectiva de Paul Ricœur». La Colmena: Revista de la Universidad Autónoma del Estado de México, 85: 55-67. Disponible en http://bit.ly/2x8bGI5.

Saygili, Ahmet y Songül Albayrak (2018). «An efficient and fast computer-aided method for fully automated diagnosis of meniscal tears from magnetic resonance images». Artificial Intelligence in Medicine, 97: 118-130. DOI: 10.1016/j.artmed.2018.11.008.

Schauer, Frederick (2006). Profiles, probabilities, and stereotypes. Cambridge: Harvard University Press.

Schünemann, Bernd (1975). «Moderne Tendenzen in der Dogmatik der Fahrlässigkeits-und Gefährdungsdelikte». Juristische Arbeitsblätter (Zeitschrift): 435-444, 511-516, 575-584, 647-656, 715-724, 787-798.

Seitinger, Alexander, Andrea Rappelsberg, Harald Leitich, Michael Binder y Klaus-Peter Adlassnig (2018). «Executable medical guidelines with Arden Syntax: Applications in dermatology and obstetrics». Artificial Intelligence in Medicine, 92: 71-81. DOI: 10.1016/j.artmed.2016.08.003.

Selbst, Andrew D. y Julia Powles (2017). «Meaningful information and the right to explanation». International Data Privacy Law, 7 (4): 233-242. DOI: 10.1093/idpl/ipx022.

Stratenwerth, Günter (1961). «Arbeitsteilung und ärztliche Sorgfaltsplicht». En P. Bockelmann y W. Gallas (editores), Festschrift für Eberhard Schmidt zum 70. GeburtstagK (pp. 383-400). Göttingen: Vandenhoeck & Ruprecht.

Suk, Heung-Il (2017). «An introduction to neural networks and deep learning». En S. Kevin Zhous, Hayit Greenspan y Dinggang Shen (editores), Deep Learning for Medical Image Analysis. Londres: Academic Press.

Taddeo, Mariarosa y Luciano Floridi (2018). «How AI can be a force for good: An ethical framework will help to harness the potential of AI while keeping humans in control». Science, 361 (6.404): 751-752. DOI: 10.1126/science.aat5991.

Tuzet, Giovanni (2006). La prima inferenza: L’abduzione di C. S. Peirce fra scienza e diritto. Turín: Giappichelli.

Van Tassel, Katharine (2006). «Hospital peer review standards and due process: Moving from Tort Doctrine toward contract principle based on clinical practice guidelines». Seton Hall Law Review, 36 (4): 1.179-1.256. Disponible en http://bit.ly/2x5s5gn.

Vargas Pinto, Tatiana (2017). Responsabilidad penal por imprudencia médica: Un examen práctico de los principales problemas para la determinación del cuidado debido. Santiago: Der.

Ventola, C. Lee (2008). «Challenges in evaluating and standardizing medical devices in health care facilities». Pharmacy and Therapeutics, 33 (6): 348-359. Disponible en http://bit.ly/2xfMyPP.

Watson, David S., Jenny Krutzinna, Ian N. Bruce, Christopher E. M. Griffiths, Iain B. McInnes, Michael R. Barnes y Luciano Floridi (2019). «Clinical applications of machine learning algorithms: Beyond the black box». The BMJ, 364. DOI: 10.1136/bmj.l886.

Welzel, Hans (1961). Fahrlässigkeit und Verkehrsdelikte: Zur Dogmatik der fahrlässigen Delikte. Karlsruhe: Müller.

Woolf, Steven (1990). «Practice guidelines: A new reality in medicine: 1. Recent developments». Archives of Internal Medicine, 150 (9): 1.811-1.818. Disponible en http://bit.ly/2x5XcIB.

Wulff, Antje, Birger Haarbrandt, Erik Tute, Michael Marschollek, Philipp Beerbaum y Thomas Jack (2018). «An interoperable clinical decision-support system for early detection of SIRS in pediatric intensive care using openEHR». Artificial Intelligence in Medicine, 89: 10-23. DOI: 10.1016/j.artmed.2018.04.012.

Zaffalon, Marco, Keith Wesnes y Orlando Petrini (2003). «Reliable diagnoses of dementia by the naive credal classifier inferred from incomplete cognitive data». Artificial Intelligence in Medicine, 29 (1-2): 61-79. DOI: 10.1016/S0933-3657(03)00046-0.

Zitnik, Marinka, Monica Agrawal y Jure Leskovec (2018). «Modeling polypharmacy side effects with graph convolutional networks». Bioinformatics, 34 (13): 457-466. DOI: 10.1093/bioinformatics/bty294.