¿Cuál es el impacto ético y la responsabilidad de la IA en la atención clínica?

Respuesta generada por Itaca · 15 fuentes · 15 de octubre de 2026

Pregunta original

Elabora un documento que presente tu perspectiva sobre la manera en que impactan o impactarán las tecnologías digitales emergentes como IA o los robotsen el cuidado clínico, relaciona la respuesta con el cumplimiento con las obligaciones éticas y resalta sobre el tema de la responsabilidad, especialmente en casos de acciones injustas o perjudiciales.

Resumen

La inteligencia artificial (IA) y la robótica pueden ampliar la capacidad clínica, mejorar la eficiencia y apoyar tareas repetitivas, pero también pueden propagar errores, sesgos y daños a mayor escala. No sustituyen la obligación de los profesionales de ejercer juicio clínico ni la responsabilidad de las instituciones y los fabricantes de diseñar, evaluar y supervisar sistemas seguros. El uso ético exige preservar la autonomía y la privacidad del paciente, comprobar el desempeño en la población atendida y permitir que las decisiones automatizadas puedan cuestionarse. Cuando se produce un daño injusto o evitable, debe existir una vía clara para investigarlo, repararlo y asignar responsabilidades según la contribución de cada actor.[1]

Impacto probable en el cuidado clínico

La IA ya puede apoyar la interpretación de imágenes y señales, la priorización de pacientes, la documentación clínica y la identificación de riesgos. La robótica puede asistir en cirugía, rehabilitación, logística y tareas de cuidado. En los próximos años, es razonable esperar mayor integración de estas herramientas en los flujos asistenciales y modelos capaces de procesar varios tipos de información clínica. Sin embargo, su utilidad depende de la tarea concreta, la calidad de los datos, la validación local y la supervisión durante el uso; el rendimiento técnico por sí solo no demuestra que mejoren los desenlaces o la seguridad del paciente.[1]

Los beneficios posibles incluyen mayor consistencia en tareas específicas, apoyo a decisiones complejas y reducción de cargas administrativas. Los riesgos incluyen errores de clasificación o recomendación, automatización de sesgos presentes en los datos, fallos técnicos, vulneraciones de privacidad y dependencia excesiva de resultados que parecen precisos, pero pueden ser inadecuados para un paciente particular. La evidencia sobre una herramienta no debe extrapolarse automáticamente a otras poblaciones, entornos clínicos o versiones del sistema.[1]

Obligaciones éticas y clínicas

La adopción debe orientarse por la seguridad, el beneficio clínico, la equidad, la protección de la autonomía, la privacidad y la transparencia. En la práctica, esto implica:

  • Mantener supervisión humana significativa. El profesional debe poder comprender el alcance y las limitaciones de la herramienta, contrastar sus resultados con la situación clínica y apartarse de ellos cuando corresponda. La supervisión no debe convertirse en una aprobación automática de recomendaciones algorítmicas.[1][2]
  • Informar al paciente de manera proporcionada. Cuando el uso de una herramienta influya de forma relevante en decisiones diagnósticas o terapéuticas, es apropiado explicar su papel y sus límites en términos comprensibles, respetando las normas aplicables sobre consentimiento y confidencialidad.[1]
  • Validar y vigilar el desempeño. Las instituciones deben evaluar si el sistema funciona en su población y flujo asistencial, detectar errores y diferencias de desempeño entre grupos, y reevaluarlo cuando cambien los datos, el contexto o el producto. La evaluación debe considerar el desempeño del equipo humano-tecnología, no solo el del algoritmo aislado.[1][2]
  • Proteger datos y prevenir usos no autorizados. La recopilación y el uso de información clínica deben limitarse a fines legítimos, con controles de acceso y medidas de seguridad adecuadas.[1]
  • Facilitar la explicación y la impugnación. Los pacientes y profesionales necesitan información suficiente sobre el uso previsto, el desempeño y las limitaciones del sistema, además de mecanismos accesibles para cuestionar decisiones que les afecten.[1][2]

Estas obligaciones no recaen exclusivamente en el profesional que utiliza la herramienta. La OMS plantea la responsabilidad como compartida entre quienes diseñan, desarrollan, adquieren, implementan y utilizan sistemas de IA, junto con los organismos que los regulan.[1]

Responsabilidad ante acciones injustas o perjudiciales

Un resultado dañino no debe atribuirse automáticamente al profesional que lo aplicó ni quedar sin responsable por haber intervenido un algoritmo. La investigación debe reconstruir la cadena de decisión: si el sistema se utilizó dentro de su finalidad prevista; si estaba validado para esa población; qué información recibió el usuario; si hubo una supervisión razonable; si el centro respondió a señales de fallo; y qué papel tuvieron el diseño, la actualización o la comercialización del producto. La responsabilidad jurídica concreta depende de la jurisdicción, los hechos y las normas aplicables; no existe una regla universal que resuelva todos los casos de daño relacionado con IA o robótica.[1][3]

Desde el punto de vista ético e institucional, una respuesta adecuada debe incluir atención inmediata al paciente afectado, documentación del incidente, comunicación transparente, análisis de causas y medidas para evitar que se repita. También hacen falta vías efectivas para presentar reclamaciones y obtener reparación cuando proceda. La OMS recomienda mecanismos que permitan cuestionar decisiones basadas en IA y buscar resarcimiento por sus efectos adversos.[1]

En sistemas automatizados o robóticos, la asignación de responsabilidades puede ser especialmente compleja: puede haber fallos de diseño, datos sesgados, instrucciones insuficientes, mantenimiento deficiente o un uso fuera de las condiciones previstas. Por ello, la responsabilidad debe examinarse con criterios verificables y sin presumir que una decisión fue justa o segura simplemente porque la tomó una máquina. En la Unión Europea, determinados sistemas de IA de alto riesgo están sujetos a requisitos regulatorios de gestión de riesgos, información y supervisión humana; su aplicación concreta depende de la clasificación del sistema y del marco normativo vigente.[3]

Perspectiva práctica

La posición más prudente es considerar la IA y los robots como herramientas clínicas bajo gobernanza, no como agentes autónomos a los que pueda transferirse el deber de cuidado. Antes de incorporarlos, los servicios deberían definir qué decisiones pueden apoyar, quién revisa sus resultados, cómo se vigilan los daños y cómo puede el paciente solicitar revisión. Si la seguridad, la equidad o la posibilidad de corregir errores no pueden demostrarse razonablemente, el uso debe limitarse o posponerse. La innovación será clínicamente defendible cuando mejore la atención sin debilitar la autonomía, la confianza ni la rendición de cuentas.[1][2]

Referencias citadas en línea: [1] Orientación de la OMS sobre ética y gobernanza de la inteligencia artificial para la salud [1]. [2] Principios de transparencia de la FDA para dispositivos médicos habilitados con aprendizaje automático [3]. [3] Comisión Europea: requisitos del Reglamento de IA para sistemas de alto riesgo [4].

Fuentes

  1. https://www.who.int/publications/i/item/9789240029200
  2. https://www.who.int/publications/i/item/9789240037403
  3. https://www.fda.gov/medical-devices/artificial-intelligence-enabled-medical-devices/transparency-machine-learning-enabled-medical-devices-guiding-principles
  4. https://commission.europa.eu/news-and-media/news/ai-act-enters-force-2024-08-01_en
  5. https://www.who.int/news/item/28-06-2021-who-issues-first-global-report-on-ai-in-health-and-six-guiding-principles-for-its-design-and-use
  6. https://www.who.int/teams/health-ethics-governance/emerging-technologies/big-data-and-artificial-intelligence
  7. https://iris.who.int/server/api/core/bitstreams/e9e62c65-6045-481e-bd04-20e206bc5039/content
  8. https://psnet.ahrq.gov/node/73499/psn-pdf
  9. https://www.fda.gov/media/160125/download
  10. https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1
  11. https://www.who.int/publications/i/item/9789240012752
  12. https://digital-strategy.ec.europa.eu/en/faqs/navigating-ai-act
  13. https://news.un.org/en/story/2021/06/1094902
  14. https://discovered.ed.ac.uk/discovery/fulldisplay?vid=44UOE_INST:44UOE_VU2&tab=Everything&docid=alma9925331112602466&lang=en&context=L
  15. https://link.springer.com/article/10.1007/s43681-026-01218-9?error=cookies_not_supported&code=0a4c3216-36d1-4f87-a651-3542951f5799

Respuesta generada por inteligencia artificial a partir de las fuentes citadas. Verifica las fuentes antes de aplicarla.

¿Tienes una pregunta sobre tu propio caso? Itaca responde con fuentes en segundos.

Hacer una pregunta

Más preguntas sobre inteligencia artificial