Individuos en todo el mundo han compartido sus pensamientos y experiencias privadas con chatbots de IA, aunque se reconoce ampliamente que tienen una capacidad inferior a los consejos de un profesional. La misma Character.ai le advierte a sus usuarios: «Este es un chatbot de IA y no una persona real. Trata todo lo que te dice como ficción. Lo que dice no debería tomarse como hecho o consejo».

No obstante, en casos extremos, los chatbots han sido acusados de dar consejos dañinos.

Actualmente, Character.ai es objeto de una demanda de una madre cuyo hijo de 14 años se suicidó supuestamente después de volverse obsesionado con uno de los personajes de IA.

Según las transcripciones de sus chats en los archivos judiciales, el adolescente discutió con el chatbot ponerle fin a su vida. En una conversación final le dijo al chatbot que estaba «volviendo a casa», y supuestamente éste lo animó a que lo hiciera «lo antes posible».

Tan solo en abril de 2024, se refirieron casi 426.000 casos de salud mental en Inglaterra, un aumento de 40% en cinco años. También se estima que un millón de personas están esperando tener acceso a los servicios de salud mental, y la terapia privada puede ser extremadamente costosa

Los expertos manifiestan preocupación sobre los chatbots con respecto a sus sesgos y limitaciones, falta de salvaguardas y la seguridad de la información de los usuarios.

Pero algunos piensan que si la asistencia humana no es fácilmente disponible, los chatbots pueden ayudar. De manera que, si las listas de espera para cuidados de salud mental del NHS están por las nubes, ¿podrían los chatbots ser una solución posible?

Character.ai y otros bots como Chat GPT están basado en «grandes modelos de lenguaje» de inteligencia artificial. Estos se entrenan con vastas cantidades de datos -ya sean de sitios web, artículos, libros o blogs- para predecir la siguiente palabra en una secuencia. A partir de eso, predicen y generan texto e interacción parecida a la humana.

La manera en que los chatbots de salud mental son creados varía, pero pueden estar entrenados en prácticas como terapias cognitivo-conductuales, que ayudan a los usuarios a explorar cómo reestructurar sus pensamientos y acciones.

También se pueden adaptar a las preferencias y comentarios de los usuarios.

Hamed Haddadi, profesor de sistemas centrados en humanos del Imperial College Londres, asemeja estos chatbots a un «terapeuta inexperto», y señala que los humanos con décadas de experiencia son capaces de involucrarse con y «leer» a su paciente basados en muchas cosas, mientras que los bots están forzados a depender únicamente de texto.

«Ellos [los terapeutas] se fijan en varias otras pistas, desde tu ropa y tu comportamiento y tus acciones y la manera como te ves y tu lenguaje corporal y todo eso. Y es muy difícil incorporar estas cosas en los chatbots».

Otro problema potencial, dice el profesor Haddadi, es que los chatbots pueden ser entrenados para mantenerte involucrado, y alentarte, «así que aunque manifiestes contenido dañino, probablemente cooperara contigo». Eso algunas veces se denomina como el problema del «Sí, señor» (adulador), por lo que suelen ser muy complacientes.

Para algunos usuarios los chatbot han sido invaluables cuando han estado en su punto más bajo.

La aplicación les permite a los pacientes solicitar ellos mismos apoyo de salud mental, y ofrece herramientas y estrategias de afrontamiento como una función de chat, ejercicios de respiración y meditación guiada mientras esperan ser vistos por un terapeuta humano, y también puede servir como una herramienta de autoayuda independiente.

Tiene incorporadas maneras para referir más arriba una crisis, mediante las cuales los usuarios son señalados para líneas de asistencias o pueden solicitar ayuda directa si muestran señales de autolesionarse o de ideas suicidas.

El psicólogo Ian MacRae, quien se especializa en tecnologías emergentes, advierte que «algunas personas están confiando mucho en estos bots sin que necesariamente se lo merezcan».

«Personalmente, nunca pondría nada de mi información personal, especialmente de salud, información psicológica, en uno de estos grandes modelos de lenguaje que simplemente está recogiendo toneladas de datos, y no hay del todo seguridad sobre cómo se va a utilizary a lo que estás consintiendo».

«Son una solución temporal para estas enormes listas de espera… para darles a las personas una herramienta mientras esperan hablar con un profesional de la salud».

The post La Inteligencia Artificial ha tomado el papel de psicólogo first appeared on NotiKairos.