Ahora mismo hay 4500 estudiantes norteamericanos aconsejados psicológicamente por un chatbot. Es solo el principio

Ahora mismo, mientras escribo esto, hay unos 4.500 estudiantes norteamericanos siendo "aconsejados psicológicamente" a través de una aplicación llamada Sonny. No es nada sorprendente. En EEUU, en torno al 17% de las escuelas secundarias no tienen orientador ni psicólogo escolar. La mayoría de ellas están en ámbitos rurales o en zonas económicamente deprimidas y aplicaciones de este tipo acercan la asistencia psicosocial a todo el mundo.

El problema no es ese. El problema es que Sonny es un chatbot de inteligencia artificial.

Y, de hecho, según explican algunos de sus usuarios, más allá de su efectividad terapéutica final, este tipo de enfoques permiten al colegio identificar casi a tiempo real problemas entre el alumnado. En Berryville (Arkansas), descubrieron que más de la mitad de los usuarios enviaba mensajes justo antes de los exámenes y les permitió desarrollar intervenciones de apoyo emocional.

¿Este es el futuro? Hace un par de años, Zara Abrams publicaba un extenso análisis en la American Psychological Association, donde se concluía que "los chatbots de inteligencia artificial (IA) pueden hacer que la terapia sea más accesible y menos costosa". Justo lo que hace Sonny.

Sin embargo, como también explicaba Abrams, "a pesar del potencial de la IA, todavía hay motivos para preocuparse: las herramientas de IA utilizadas en el ámbito sanitario han discriminado a personas en función de su raza y su condición de discapacidad y hay chatbots maliciosos han difundido información errónea, han profesado su amor a los usuarios o han acosado sexualmente a menores". Eso es precisamente lo que Sonny trata de evitar.

¿Cómo es posible? En principio, según explican desde la empresa, Sonny tiene un equipo de personas con "experiencia en psicología, trabajo social y apoyo en línea" que supervisan e incluso reescriben las respuestas del bot. Cada técnico supervisa entre 15 y 25 chats a la vez.

Es la forma que tiene Sonar Mental Health, la empresa detrás de la app, para evitar el gran pecado original de los LLM: su tendencia a delirar, fantasear y dar consejos que puedan no ser correctos. Además, el chatbot híbrido está diseñado para avisar a padres y profesores ante la más mínima posibilidad de peligro (ya sea para uno mismo o para los demás).

¿Han solucionado el problema? La verdad es que no lo sabemos (porque faltan estudios sobre ello), pero sinceramente es poco probable que lo hayan conseguido: estamos en una fase muy temprana como para confiar en que todos los problemas asociados estén resueltos.

Pero es un paso radical. Como decía Abrams, es posible que "los psicólogos y sus habilidades sean irremplazables", pero dado que la llegada de la IA es inevitable tenemos que apostar por una "implementación reflexiva y estratégica". Algo que, efectivamente, es muy parecido a no decir nada. Hay mucho que aún no sabemos y, por eso, hacer predicciones concretas es peligroso.

Lo que sí está claro es que la pregunta no es si tendremos GPTerapeutas, ya los tenemos. La pregunta es cómo podemos usarlos para no empeorar la atención que hoy se está dando (una tentación siempre presnete) y convertirlos en una herramienta clave para reducir el sufrimiento humano. Esperemos responderla pronto.

Imagen Sonar / Sigmund

En este blog 50 años de investigación sobre la psicoterapia de la depresión dejan un dato sorprendente: no hemos mejorado nada