¿Cuál es el impacto ético y la responsabilidad de la IA en la atención clínica?
Elabora un documento que presente tu perspectiva sobre la manera en que impactan o impactarán las tecnologías digitales emergentes como IA o los robotsen el cuidado clínico, relaciona la respuesta con el cumplimiento con las obligaciones éticas y resalta sobre el tema de la responsabilidad, especialmente en casos de acciones injustas o perjudiciales.
Resumen
La inteligencia artificial (IA) y la robótica pueden ampliar la capacidad clínica, mejorar la eficiencia y apoyar tareas repetitivas, pero también pueden propagar errores, sesgos y daños a mayor escala. No sustituyen la obligación de los profesionales de ejercer juicio clínico ni la responsabilidad de las instituciones y los fabricantes de diseñar, evaluar y supervisar sistemas seguros. El uso ético exige preservar la autonomía y la privacidad del paciente, comprobar el desempeño en la población atendida y permitir que las decisiones automatizadas puedan cuestionarse. Cuando se produce un daño injusto o evitable, debe existir una vía clara para investigarlo, repararlo y asignar responsabilidades según la contribución de cada actor.[1]
Impacto probable en el cuidado clínico
La IA ya puede apoyar la interpretación de imágenes y señales, la priorización de pacientes, la documentación clínica y la identificación de riesgos. La robótica puede asistir en cirugía, rehabilitación, logística y tareas de cuidado. En los próximos años, es razonable esperar mayor integración de estas herramientas en los flujos asistenciales y modelos capaces de procesar varios tipos de información clínica. Sin embargo, su utilidad depende de la tarea concreta, la calidad de los datos, la validación local y la supervisión durante el uso; el rendimiento técnico por sí solo no demuestra que mejoren los desenlaces o la seguridad del paciente.[1]
Los beneficios posibles incluyen mayor consistencia en tareas específicas, apoyo a decisiones complejas y reducción de cargas administrativas. Los riesgos incluyen errores de clasificación o recomendación, automatización de sesgos presentes en los datos, fallos técnicos, vulneraciones de privacidad y dependencia excesiva de resultados que parecen precisos, pero pueden ser inadecuados para un paciente particular. La evidencia sobre una herramienta no debe extrapolarse automáticamente a otras poblaciones, entornos clínicos o versiones del sistema.[1]
Obligaciones éticas y clínicas
La adopción debe orientarse por la seguridad, el beneficio clínico, la equidad, la protección de la autonomía, la privacidad y la transparencia. En la práctica, esto implica:
- Mantener supervisión humana significativa. El profesional debe poder comprender el alcance y las limitaciones de la herramienta, contrastar sus resultados con la situación clínica y apartarse de ellos cuando corresponda. La supervisión no debe convertirse en una aprobación automática de recomendaciones algorítmicas.[1][2]
- Informar al paciente de manera proporcionada. Cuando el uso de una herramienta influya de forma relevante en decisiones diagnósticas o terapéuticas, es apropiado explicar su papel y sus límites en términos comprensibles, respetando las normas aplicables sobre consentimiento y confidencialidad.[1]
- Validar y vigilar el desempeño. Las instituciones deben evaluar si el sistema funciona en su población y flujo asistencial, detectar errores y diferencias de desempeño entre grupos, y reevaluarlo cuando cambien los datos, el contexto o el producto. La evaluación debe considerar el desempeño del equipo humano-tecnología, no solo el del algoritmo aislado.[1][2]
- Proteger datos y prevenir usos no autorizados. La recopilación y el uso de información clínica deben limitarse a fines legítimos, con controles de acceso y medidas de seguridad adecuadas.[1]
- Facilitar la explicación y la impugnación. Los pacientes y profesionales necesitan información suficiente sobre el uso previsto, el desempeño y las limitaciones del sistema, además de mecanismos accesibles para cuestionar decisiones que les afecten.[1][2]
Estas obligaciones no recaen exclusivamente en el profesional que utiliza la herramienta. La OMS plantea la responsabilidad como compartida entre quienes diseñan, desarrollan, adquieren, implementan y utilizan sistemas de IA, junto con los organismos que los regulan.[1]
Responsabilidad ante acciones injustas o perjudiciales
Un resultado dañino no debe atribuirse automáticamente al profesional que lo aplicó ni quedar sin responsable por haber intervenido un algoritmo. La investigación debe reconstruir la cadena de decisión: si el sistema se utilizó dentro de su finalidad prevista; si estaba validado para esa población; qué información recibió el usuario; si hubo una supervisión razonable; si el centro respondió a señales de fallo; y qué papel tuvieron el diseño, la actualización o la comercialización del producto. La responsabilidad jurídica concreta depende de la jurisdicción, los hechos y las normas aplicables; no existe una regla universal que resuelva todos los casos de daño relacionado con IA o robótica.[1][3]
Desde el punto de vista ético e institucional, una respuesta adecuada debe incluir atención inmediata al paciente afectado, documentación del incidente, comunicación transparente, análisis de causas y medidas para evitar que se repita. También hacen falta vías efectivas para presentar reclamaciones y obtener reparación cuando proceda. La OMS recomienda mecanismos que permitan cuestionar decisiones basadas en IA y buscar resarcimiento por sus efectos adversos.[1]
En sistemas automatizados o robóticos, la asignación de responsabilidades puede ser especialmente compleja: puede haber fallos de diseño, datos sesgados, instrucciones insuficientes, mantenimiento deficiente o un uso fuera de las condiciones previstas. Por ello, la responsabilidad debe examinarse con criterios verificables y sin presumir que una decisión fue justa o segura simplemente porque la tomó una máquina. En la Unión Europea, determinados sistemas de IA de alto riesgo están sujetos a requisitos regulatorios de gestión de riesgos, información y supervisión humana; su aplicación concreta depende de la clasificación del sistema y del marco normativo vigente.[3]
Perspectiva práctica
La posición más prudente es considerar la IA y los robots como herramientas clínicas bajo gobernanza, no como agentes autónomos a los que pueda transferirse el deber de cuidado. Antes de incorporarlos, los servicios deberían definir qué decisiones pueden apoyar, quién revisa sus resultados, cómo se vigilan los daños y cómo puede el paciente solicitar revisión. Si la seguridad, la equidad o la posibilidad de corregir errores no pueden demostrarse razonablemente, el uso debe limitarse o posponerse. La innovación será clínicamente defendible cuando mejore la atención sin debilitar la autonomía, la confianza ni la rendición de cuentas.[1][2]
Referencias citadas en línea: [1] Orientación de la OMS sobre ética y gobernanza de la inteligencia artificial para la salud [1]. [2] Principios de transparencia de la FDA para dispositivos médicos habilitados con aprendizaje automático [3]. [3] Comisión Europea: requisitos del Reglamento de IA para sistemas de alto riesgo [4].
Fuentes
- https://www.who.int/publications/i/item/9789240029200
- https://www.who.int/publications/i/item/9789240037403
- https://www.fda.gov/medical-devices/artificial-intelligence-enabled-medical-devices/transparency-machine-learning-enabled-medical-devices-guiding-principles
- https://commission.europa.eu/news-and-media/news/ai-act-enters-force-2024-08-01_en
- https://www.who.int/news/item/28-06-2021-who-issues-first-global-report-on-ai-in-health-and-six-guiding-principles-for-its-design-and-use
- https://www.who.int/teams/health-ethics-governance/emerging-technologies/big-data-and-artificial-intelligence
- https://iris.who.int/server/api/core/bitstreams/e9e62c65-6045-481e-bd04-20e206bc5039/content
- https://psnet.ahrq.gov/node/73499/psn-pdf
- https://www.fda.gov/media/160125/download
- https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1
- https://www.who.int/publications/i/item/9789240012752
- https://digital-strategy.ec.europa.eu/en/faqs/navigating-ai-act
- https://news.un.org/en/story/2021/06/1094902
- https://discovered.ed.ac.uk/discovery/fulldisplay?vid=44UOE_INST:44UOE_VU2&tab=Everything&docid=alma9925331112602466&lang=en&context=L
- https://link.springer.com/article/10.1007/s43681-026-01218-9?error=cookies_not_supported&code=0a4c3216-36d1-4f87-a651-3542951f5799
Respuesta generada por inteligencia artificial a partir de las fuentes citadas. Verifica las fuentes antes de aplicarla.