La fragmentación legal de la IA en salud mental: riesgos para la práctica clínica

Legislar la IA de salud mental estado por estado: la "model drift" jurisdiccional que preocupa a los terapeutas

Para el psicólogo europeo que sigue el sector desde la barrera, la noticia importa menos por el detalle legal concreto y más por el patrón que dibuja: cuando una herramienta clínica se legisla a pedazos, la coherencia del servicio deja de ser un problema del proveedor y se convierte en un problema del profesional que la recomienda, la integra o simplemente la sugiere.

Qué significa "model drift" cuando lo que deriva es la ley

En lenguaje técnico, "model drift" describe la degradación de un algoritmo cuando los datos reales se separan de los datos con los que fue entrenado. Forbes, sin embargo, lo aplica aquí a algo distinto: la regulación. Un chatbot diseñado con un único estándar de comportamiento puede acabar siendo legal en un estado, no cumplir en otro y quedar en zona gris en un tercero, especialmente en lo más sensible: detección de crisis, derivación a urgencias, conservación de datos clínicos o uso con menores. La consecuencia operativa para el desarrollador es fragmentar el producto, activar geo-bloqueos, mantener versiones paralelas o retirar funciones sin previo aviso. El material público disponible no detalla qué estados han movido ficha ni qué cláusulas están sobre la mesa, así que la lectura útil por ahora es estructural: la herramienta puede dejar de comportarse como te la vendieron sin que cambies de proveedor ni renueves contrato.

Lo que cambia en tu consulta si ya trabajas (o vas a hacerlo) con IA clínica

Tres preguntas merece la pena llevar a tu próxima conversación con cualquier proveedor de IA que toques en tu práctica: ¿cómo gestionan las actualizaciones regulatorias por jurisdicción?, ¿mantienen un único modelo con restricciones o modelos distintos por región?, y ¿qué protocolo de aviso tienen cuando una novedad legal obliga a modificar una función? Si la respuesta es vaga o se limita a "ya le informaremos cuando toque", el riesgo es real: un paciente puede estar recibiendo una versión de la herramienta distinta a la que tú evaluaste, y es precisamente ahí donde la responsabilidad profesional empieza a no coincidir con lo que firma el contrato comercial. La lección europea no es esperar a que España legisle: es auditar la IA que ya tienes en tu ecosistema antes de que la regulación te obligue a hacerlo con prisas.

El espejo local: cuando un canal de mensajería se viste de servicio clínico

En el mismo clúster informativo, la Oficina Provincial de Salud de Pampanga, en Filipinas, acaba de habilitar un canal de atención en su página oficial de Facebook para orientar a residentes con dudas de salud mental, según SunStar Publishing Inc. No es IA ni es regulación estadounidense, pero ilustra el mismo riesgo de fondo: confundir un canal de comunicación con un dispositivo clínico. Para el terapeuta que digitaliza su consulta, la frontera entre "responder mensajes" y "prestar un servicio sanitario" es exactamente donde nacen los problemas que la "model drift" estadounidense solo viene a agravar.