La inteligencia artificial (IA) ha irrumpido en todas las profesiones cambiando sus metodologías de trabajo y ahora también en la vida cotidiana a través de ChatGPT, el chatbot lanzado en noviembre del año pasado por la empresa OpenAI.
Mucho se ha debatido sobre los beneficios y daños que podría ocasionar esta tecnología en la educación, en el mercado laboral y hasta en el arte. Su potencial de aplicación es múltiple y en el campo de la psicología se encuentra en sus primeros estadios de desarrollo.
Hasta el momento se sabe que puede facilitar, perfeccionar e incluso mejorar el trabajo de un psicólogo identificando estados de ánimo, expresiones faciales, niveles de activación fisiológica, y también detectando síntomas de ansiedad, de depresión o de conductas disfuncionales.
Poder recopilar datos sobre los estados de ánimo de una persona le permite predecir (aunque con poca fiabilidad todavía) conductas de riesgo. En ese sentido es interesante cómo en algunos países de Europa se aplican estas plataformas para la detección temprana del suicidio.
Allí tienen la ventaja de contar con datos de salud mental, algo que no sucede en Argentina. En muchos casos, esa información preexistente con la que cuentan las hace más efectivas que un psicólogo atendiendo por primera vez a una persona.
Los profesionales detrás del algoritmo
Estos potenciales usos serán ventajas siempre que no se pierda de vista que hay personas por detrás y que, a pesar de tener niveles de respuesta inmediatos, estas son limitadas.
“Sus modelos predictivos hoy tienen poca confiabilidad dentro de los parámetros que se utilizan en medicina para medir la calidad de las tecnologías aplicadas”, subraya, en diálogo con La Voz, Patricia Altamirano, profesora titular de la cátedra de Sistemas Psicológicos Contemporáneos de la Facultad de Psicología de la la UNC.
Actualmente, los resultados que arrojan están sostenidos por modelos clínicos predictivos anteriores a la IA; por lo tanto, todavía están pensados para ser vistos por un clínico y no por una tecnología inteligente.
“Por eso hay proyectos para realizar sistemas de clasificación basados en signos y en síntomas que detectan las IA tratando de separarse de los tradicionales diagnósticos que requieren de un sujeto humano”, agrega Altamirano.
Es decir, detrás de estas IA hay un equipo de psicólogos y psiquiatras que trabajan sobre la aplicación de estos modelos y también sobre su eficacia. “Siempre están la ciencia y la técnica garantizando la efectividad con dinero público, pero la ganancia va a manos privadas”, remarca.
Sin embargo, cuando estos modelos predictivos se desarrollen, se estima que lograrán diagnósticos certeros y que, incluso, podrán derivar al paciente con un profesional humano de ser necesario.
Y es que la mirada clínica de un psicólogo seguirá siendo esencial a pesar de contar con un diagnóstico, ya que este por sí solo no explica todo y puede modificarse con el correr del tiempo y con la observación de otros síntomas.
Los riesgos que implica
Para prevenir los peligros de un mal uso de la IA, existe un “libro blanco” que establece cinco principios para un desarrollo seguro.
- Que se utilice para el bien común y el beneficio de la humanidad.
- Que opere de manera justa y sin sesgos.
- Que sea transparente y explique sus decisiones.
- Que sea segura y esté protegida contra ataques malintencionados.
- Que se use de manera responsable y ética..
Adaptados a las necesidades y contextos de cada región, estos principios pueden ser útiles en Argentina y en otros países, pero es fundamental que se complementen con regulaciones y políticas públicas adecuadas que garanticen su cumplimiento.
Como esto último no ocurre, las empresas no cumplen estos preceptos y, en el caso de la transparencia, no pueden. “Los empresarios ni siquiera saben qué sucede dentro del machine learning interno, por lo que no pueden explicar cómo las IA toman decisiones”, apunta Altamirano.
La profesional también pone la alerta en la privacidad y en la seguridad de los datos de los pacientes. “La IA te toma como un usuario del servicio (o como cliente si estás pagando), pero también como ‘prosumidor’, que es el consumidor que no consume ni paga dinero, sino que aporta y construye contenido con datos personales”.
Aunque esto es lo que sucede también en redes sociales, en este caso, los datos que brindamos son de una criticidad personal abrumadora porque tienen que ver con la salud mental y lo agrava que no haya una legislación firme para limitar los potenciales riesgos de su distribución.
“Entonces entrego mis datos bajo un consentimiento de privacidad que no tiene ningún régimen legal. Lo único que me garantiza la seguridad de esa información es la confianza que le tengo a la empresa que los está usando”, advierte la especialista.
Qué pueden aportar a las prácticas psicológicas
Como política de Estado, la salud mental no llega a toda la población y hay sectores marginales totalmente desprovistos de acceder a un psicólogo. Ante esta carencia, la implementación de estos sistemas puede ser una herramienta en la atención primaria de la comunidad.
“Se pueden enfocar en acciones de prevención, en chats de apoyo emocional, en ayudar a los equipos que trabajan en territorio y no dan abasto. También, en las colas de pacientes para advertir quiénes están en riesgo y deben ser atendidos con urgencia”, propone la psicóloga.
Otro posible uso tiene que ver con el acompañamiento de personas solas, que hoy son un desafío para los profesionales de la salud mental. “Quien los use tendrá con el correr del tiempo a alguien con quién dialogar que lo conozca”, dice la especialista.
En esa línea, remarca algunas plataformas que tienen habilidades adecuadas para necesidades específicas del paciente, aunque no al nivel de la atención personalizada.
“Existe una IA que atiende adultos mayores con demencia. ¿Qué se hace con personas en ese estado que están en un geriátrico y no pueden hablar con nadie? En estos casos, cubrirían un gran vacío”, pronostica.
Respecto del futuro de estas tecnologías en la psicología, Altamirano lo liga directamente con las políticas que los estados apliquen y con las presiones que la opinión pública y los medios posen sobre ellas.
“Aunque soy positiva, veo sus limitaciones. Si el avance de la tecnología es más rápido que la reflexión política, estamos ante un gran problema”, cierra.
