Julio Antonio Guija, médico psiquiatra: «Incorporar IA a una consulta no rebaja las exigencias de buena práctica médica»

La inteligencia artificial se abre paso en la psiquiatría y la salud mental, un campo donde la relación entre profesional y paciente, la confidencialidad y la interpretación del sufrimiento ajeno pesan tanto como cualquier dato. Las herramientas disponibles prometen aligerar tareas administrativas, ayudar a detectar cambios en el comportamiento y apoyar el seguimiento de los pacientes, pero su llegada plantea dudas sobre su fiabilidad, el tratamiento de información especialmente sensible, los sesgos de los algoritmos y la responsabilidad de quienes las emplean. A ello se suma un marco normativo en plena aplicación, con el Reglamento europeo de inteligencia artificial y la normativa de protección de datos como referencias obligadas para centros y profesionales.

Para abordar estas cuestiones, Economist & Jurist doalogó con el Dr. Julio Antonio Guija, psiquiatra, que analiza las posibilidades y los límites de estas tecnologías desde la perspectiva de la práctica clínica. A lo largo de la conversación repasa el papel que puede desempeñar la inteligencia artificial en el diagnóstico y el seguimiento, las obligaciones de los profesionales sanitarios, las garantías que exige la protección de los derechos de los pacientes y las recomendaciones que dirigiría a profesionales, centros y autoridades.

Entre las ideas centrales de la entrevista figura la distinción entre detectar una señal e interpretarla: la herramienta puede ampliar la información disponible, pero no sustituye a la entrevista clínica ni al razonamiento del psiquiatra. El Dr. Guija advierte del riesgo de confiar en exceso en sistemas que pueden equivocarse con apariencia de seguridad, de que ciertos programas conversacionales den la razón a creencias delirantes o respondan mal ante una crisis suicida, y de que quitar un nombre de una historia clínica no basta para anonimizarla. Defiende además la transparencia con el paciente, la revisión periódica de los sesgos y una supervisión humana real, no meramente formal, con trazabilidad de las decisiones en la historia clínica. Y subraya que la tecnología debe ayudar a atender mejor sin perder de vista que la esencia de la psiquiatría es comprender el sufrimiento de una persona concreta.

Economist & Jurist (E&J).- ¿Qué aplicaciones de inteligencia artificial están empezando a tener mayor relevancia en psiquiatría y salud mental, y cuáles ofrecen un beneficio clínico real en la actualidad?

Julio Antonio Guija (J. A. G.).- La inteligencia artificial (IA) está empezando a ser útil tanto en tareas administrativas (análisis de historias clínicas o elaboración de informes) como clínicas (detección de cambios en el comportamiento o seguimiento de pacientes). También existen aplicaciones que ofrecen apoyo psicológico y programas de tratamiento digital.

Actualmente, los beneficios más claros se encuentran en facilitar el trabajo de los profesionales y en determinadas intervenciones digitales estructuradas. La IA también puede contribuir a detectar precozmente síntomas o recaídas, aunque muchas de estas aplicaciones todavía necesitan mayor validación científica. Hay que tener claro que no se pueden confundir las posibilidades tecnológicas con una eficacia clínica ya demostrada.

(Imagen: E&J)

E&J.- ¿Hasta qué punto pueden estas herramientas contribuir a la detección de síntomas, la evaluación clínica o el seguimiento de los pacientes sin sustituir el criterio del psiquiatra?

J. A. G.- La inteligencia artificial puede analizar grandes cantidades de información y detectar cambios que podrían pasar inadvertidos en una consulta convencional. Por ejemplo, modificaciones del sueño, de la actividad física o del lenguaje pueden alertar sobre una posible descompensación psiquiátrica.

No obstante, detectar un cambio no significa comprender su causa. Una reducción de la actividad puede indicar una depresión, pero también responder a circunstancias personales o enfermedades físicas. Existe una diferencia decisiva entre detectar una señal e interpretarla, y esa es la función esencial de la psiquiatría. Dormir menos no equivale necesariamente a una hipomanía, igual que dejar de salir de casa no demuestra por sí solo una depresión. Necesitamos conocer al paciente, su historia, las circunstancias que atraviesa y el significado de esos cambios. La IA debe ampliar la información disponible, no sustituir la entrevista ni el razonamiento psicopatológico.

E&J.- ¿Qué riesgos plantea el uso de sistemas de inteligencia artificial en el diagnóstico y tratamiento de los trastornos mentales, especialmente cuando sus recomendaciones pueden influir en decisiones clínicas relevantes?

J. A. G.- Tal vez el principal riesgo es confiar excesivamente en sus respuestas. Estos sistemas pueden equivocarse y, además, presentar información incorrecta con una apariencia de absoluta seguridad.

Una IA puede inventar datos, atribuirles una certeza que no tienen o trasladar a un paciente recomendaciones que no encajan con su situación. Y sus errores no siempre son fáciles de reconocer.

En salud mental hay un riesgo añadido: ciertos sistemas conversacionales tienden a confirmar lo que dice el usuario, incluso cuando expresa creencias delirantes. También pueden responder de forma inadecuada ante una crisis suicida. Por ello, ninguna decisión relevante sobre diagnóstico, tratamiento, ingreso involuntario o restricción de derechos debería fundamentarse exclusivamente en una recomendación algorítmica.

E&J.- ¿Qué obligaciones deben cumplir los profesionales sanitarios antes de incorporar estas herramientas a su práctica clínica? ¿En qué circunstancias sería necesario informar expresamente al paciente de su utilización?

J. A. G.- Antes de incorporar una herramienta a la asistencia, me preguntaría: ¿para qué la vamos a utilizar? ¿Qué evidencia respalda su funcionamiento? ¿Qué sucede si se equivoca?

Además de conocer sus limitaciones, hay que comprobar que su uso sea adecuado y esté autorizado para esa finalidad, y que los datos clínicos estén protegidos.

No es lo mismo utilizar IA para organizar citas que emplearla para apoyar una decisión diagnóstica o terapéutica. Cuando su intervención tenga relevancia en la atención, considero que el paciente debe conocerla en los términos exigibles para ese uso. Y si va a conversar directamente con una IA, debe saber que no está hablando con un profesional. La transparencia no es un trámite: sostiene la confianza entre médico y paciente.

(Imagen: E&J)

E&J.- La atención psiquiátrica implica el tratamiento de información especialmente sensible. ¿Qué garantías deben adoptarse para proteger los datos personales, las conversaciones clínicas y la confidencialidad de los pacientes cuando se emplean sistemas de inteligencia artificial?

J. A. G.- Una historia psiquiátrica puede contener información sobre relaciones familiares, sexualidad, experiencias traumáticas o circunstancias que el paciente apenas ha compartido con nadie. Esa intimidad exige especial cautela. No se deben volcar historias clínicas identificables en herramientas que no ofrezcan garantías suficientes de seguridad y confidencialidad.

Los centros tienen que controlar los accesos, limitar los datos a los estrictamente necesarios y conocer para qué se utilizarán. Y conviene recordar algo que a veces se olvida: quitar un nombre no siempre anonimiza un caso; ciertos detalles permiten reconocer a la persona. La confidencialidad es, además de un deber legal, una condición para que el paciente pueda hablar con libertad.

E&J.- ¿Qué riesgos existen de que estas tecnologías reproduzcan sesgos o generen evaluaciones menos precisas en determinados grupos de pacientes? ¿Cómo deberían detectarse y corregirse estos problemas?

J. A. G.- Los algoritmos aprenden de datos obtenidos de personas y sistemas sanitarios que pueden contener errores, desigualdades y prejuicios. Por tanto, la IA no es necesariamente neutral. Una herramienta entrenada fundamentalmente con adultos de un determinado país puede funcionar peor con adolescentes, personas mayores o pacientes de otros entornos culturales.

También puede reproducir errores diagnósticos previos o interpretar incorrectamente determinadas formas de expresión y comportamiento. Para evitarlo, es necesario comprobar su funcionamiento en poblaciones diferentes, analizar los errores y revisar periódicamente sus resultados.

En psiquiatría, estos sesgos pueden tener consecuencias especialmente graves si afectan a valoraciones sobre peligrosidad, riesgo suicida o capacidad de una persona.

E&J.- ¿Qué relevancia tienen el Reglamento europeo de inteligencia artificial y la normativa de protección de datos en el uso de estas herramientas dentro de los servicios de salud mental? ¿Qué aspectos deberían conocer especialmente los profesionales y las instituciones sanitarias?

J. A. G.- La normativa europea parte de una idea razonable: no todos los sistemas de IA entrañan el mismo riesgo. Algunas aplicaciones sanitarias pueden quedar sometidas a requisitos reforzados de seguridad, documentación, transparencia y supervisión humana. A esto se añaden las obligaciones ya existentes en materia de protección de datos y derechos de los pacientes.

No todas las previsiones tienen idéntico calendario de aplicación ni afectan del mismo modo a cualquier programa. Pero hay una cuestión que no ofrece dudas: incorporar IA a una consulta no rebaja las exigencias de buena práctica médica. Tenemos que saber qué herramienta usamos, con qué finalidad y bajo qué garantías. La utilización de inteligencia artificial no reduce las obligaciones legales de los médicos ni los derechos de los pacientes.

(Imagen: E&J)

E&J.- ¿Qué mecanismos de supervisión humana, evaluación de resultados y documentación de las decisiones deberían implantarse para garantizar un uso seguro y transparente de la inteligencia artificial en psiquiatría?

J. A. G.- La supervisión humana no puede convertirse en una firma al pie de una decisión tomada por el algoritmo. Debe ser una supervisión real. El psiquiatra tiene que poder valorar la propuesta, identificar sus límites y rechazarla cuando no sea adecuada. Si la recomendación no se puede examinar críticamente, la supuesta supervisión corre el riesgo de ser puramente formal.

También es conveniente que los centros evalúen las herramientas antes de implantarlas, revisen periódicamente su funcionamiento y dispongan de procedimientos para comunicar errores. Cuando la IA haya tenido un papel significativo en una decisión asistencial, debería quedar documentado de forma proporcionada en la historia clínica. La trazabilidad permite revisar qué ocurrió y por qué. Por ello, la IA puede recomendar, pero las decisiones clínicas importantes deben seguir siendo adoptadas y justificadas por profesionales responsables.

E&J.- De cara a los próximos años, ¿qué recomendaciones trasladaría la SEPSM a los profesionales, los centros sanitarios y las autoridades para aprovechar las ventajas de estas tecnologías sin comprometer la seguridad del paciente ni la responsabilidad profesional?

J. A. G.- Les trasladaría tres prioridades. A los profesionales, formación y una actitud crítica: hay que conocer las posibilidades de la IA, pero también sus límites. A los centros, que no incorporen aplicaciones por moda, sino porque estén suficientemente evaluadas y puedan utilizarse con seguridad. Y a las autoridades, que impulsen investigación independiente y reglas claras de supervisión y responsabilidad.

Prestaría especial atención a los menores y a las personas psicológicamente más vulnerables. Nos encontramos ante una tecnología que puede ayudarnos a atender mejor, pero la esencia de la psiquiatría sigue siendo comprender el sufrimiento de una persona concreta. El objetivo es una psiquiatría que, utilizando bien la tecnología, sea más eficaz y conserve su dimensión humana.