Inteligencia artificial en psicoterapia: riesgos y límites de los chatbots clínicos

La IA conversacional entra en salud mental, pero el terreno clínico sigue lleno de minas

Según Medscape, el debate sobre los chatbots de inteligencia artificial aplicados a la salud mental ya se presenta como un terreno problemático, no como una simple carrera por añadir conversación automatizada a las consultas. En paralelo, MyChamplainValley.com identifica Therabot como una herramienta de IA para salud mental desarrollada por Dartmouth. Para los profesionales, la noticia no está solo en que existan estas interfaces, sino en cómo evaluar su papel antes de incorporarlas a la práctica.

La conversación tecnológica avanza más deprisa que la evidencia disponible en este paquete de fuentes. MarketScale aborda el impulso de la salud mental a través de conversaciones digitales, mientras que AOL.ca sitúa la elección del terapeuta como una decisión que sigue requiriendo orientación. El contraste es relevante: automatizar el diálogo puede ampliar el acceso a una interfaz, pero no convierte automáticamente esa interacción en atención clínica.

El nombre de la herramienta no basta

La referencia a Therabot confirma que Dartmouth cuenta con una herramienta de IA orientada a la salud mental. Sin embargo, los datos disponibles no detallan su diseño, el tipo de usuario al que se dirige, los resultados obtenidos ni las condiciones de supervisión. Tampoco permiten afirmar qué funciones incorpora o si está preparada para integrarse en una consulta profesional.

Ese vacío es precisamente el primer criterio de análisis. Antes de valorar cualquier chatbot, el profesional debería separar tres capas que a menudo se mezclan:

• Interfaz conversacional: cómo interactúa el sistema con la persona y qué tipo de respuestas ofrece.
• Automatización operativa: qué tareas puede apoyar dentro del flujo de trabajo de una consulta.
• Intervención clínica: qué afirmaciones existen sobre su utilidad terapéutica, sus límites y la responsabilidad profesional asociada.

Aunque una interfaz resulte natural y accesible, la experiencia de conversación no demuestra por sí sola eficacia clínica. El riesgo para una consulta de psicología aparece cuando la fluidez del diálogo se interpreta como comprensión clínica.

Qué conviene comprobar antes de incorporarla

El titular de Medscape funciona como una señal de alerta para no confundir innovación con validación. Con la información confirmada, no es posible atribuir a estos sistemas cifras de eficacia, capacidades diagnósticas, protocolos de crisis o garantías concretas de privacidad. Por tanto, cualquier decisión de compra o integración debería detenerse ante promesas que no expliquen cómo se han obtenido sus resultados.

Una evaluación profesional puede empezar por preguntas básicas:

1. Qué problema resuelve exactamente. No es lo mismo facilitar información, apoyar una conversación entre sesiones o automatizar una tarea administrativa.

2. Qué queda fuera de su alcance. La ausencia de detalles sobre límites clínicos debe considerarse una incertidumbre, no una capacidad implícita.

3. Quién supervisa el uso. La herramienta no debería convertirse, por defecto, en un sustituto opaco del criterio del terapeuta.

4. Qué datos procesa y con qué garantías. En el paquete de fuentes no constan condiciones concretas de privacidad; por ello, no conviene asumirlas.

5. Cómo se documenta su intervención. Si el sistema entra en el circuito de la consulta, habrá que saber qué información genera, dónde se registra y cómo se revisa.

La oportunidad está en el criterio, no en el entusiasmo

La aparición conjunta de estos contenidos apunta a una tendencia clara: los chatbots de salud mental están ganando visibilidad en el debate tecnológico y clínico. Pero la escalabilidad de una conversación digital no elimina el sesgo algorítmico, la necesidad de contexto ni la responsabilidad de decidir cuándo una interacción debe quedar fuera del sistema automatizado.

Para una consulta, la posición más sólida no es aceptar o rechazar la IA en bloque. Es exigir una definición precisa del caso de uso, revisar la documentación disponible y mantener una frontera explícita entre apoyo digital y práctica clínica. La herramienta puede ser novedosa; la exigencia de verificar qué hace realmente no debería serlo.