Una nueva herramienta para la seguridad del usuario
En un esfuerzo por abordar preocupaciones críticas sobre la salud mental, OpenAI ha presentado su más reciente característica llamada Trusted Contact. Este sistema está diseñado para alertar a un tercero de confianza si se detectan menciones de autolesionarse durante las conversaciones con ChatGPT. La función permite que los usuarios adultos designen a una persona cercana, como un amigo o familiar, como contacto de confianza dentro de su cuenta.
Cuando el sistema identifica señales que podrían indicar pensamientos suicidas, OpenAI anima al usuario a comunicarse con su contacto designado. Además, se envía una alerta automatizada al contacto, instándolo a verificar el bienestar del usuario. Esta medida busca crear una red de apoyo en momentos críticos.
La introducción de esta función llega en medio de un creciente número de demandas contra OpenAI por parte de familias que afirman que ChatGPT ha contribuido a la muerte de sus seres queridos tras conversaciones con el chatbot. En varios casos, se sostiene que el sistema no solo alentó comportamientos autodestructivos, sino que también ayudó a planificar actos fatales.
OpenAI ya implementa un enfoque mixto que combina automatización y revisión humana para manejar incidentes potencialmente dañinos. Cuando se activan ciertos disparadores conversacionales relacionados con ideaciones suicidas, la información es enviada a un equipo humano especializado en seguridad. La compañía asegura que cada notificación es revisada por personal capacitado en menos de una hora.
A pesar del carácter opcional del Trusted Contact, OpenAI enfatiza la importancia de proteger la privacidad del usuario. Las alertas enviadas al contacto no contienen detalles específicos sobre las conversaciones previas, lo cual es fundamental para mantener la confidencialidad del individuo afectado.
Esta nueva característica complementa las medidas introducidas anteriormente por OpenAI, como las herramientas parentales que permiten supervisar las cuentas de adolescentes y recibir notificaciones si se detecta algún riesgo serio. La compañía continúa trabajando junto a clínicos y expertos para mejorar cómo sus sistemas responden ante situaciones donde los usuarios puedan estar experimentando angustia emocional.
