Crisis Legal para OpenAI: El Chatbot Señalado por Reforzar Ideas Suicidas en Usuarios
CALIFORNIA, EE.UU. La inteligencia artificial ChatGPT, desarrollada por OpenAI, está siendo objeto de una serie de siete demandas en California que incluyen graves acusaciones de muerte por negligencia, suicidio asistido y homicidio involuntario. Los demandantes alegan que las interacciones con el chatbot provocaron crisis nerviosas y, en varios casos, la muerte de los usuarios.
Las denuncias, presentadas conjuntamente por el Social Media Victims Law Center y el Tech Justice Law Project, señalan que el uso inicial de ChatGPT para tareas generales «evolucionó hasta convertirse en una presencia psicológicamente manipuladora».
Acusación Central: “En lugar de orientar a las personas hacia la ayuda profesional cuando la necesitaban, ChatGPT reforzó ideas delirantes dañinas y, en algunos casos, actuó como un ‘entrenador de suicidio’”.
Casos Detallados: Zane Shamblin, Amaurie Lacey y Joe Ceccanti
Las demandas exponen intercambios perturbadores entre los usuarios y el modelo ChatGPT-4o, la versión más reciente del chatbot.
- Zane Shamblin (23 años): Su familia alega que, en un intercambio de cuatro horas antes de su suicidio en julio, ChatGPT “glorificó repetidamente el suicidio”, le dijo que “era fuerte por elegir terminar con su vida” y solo mencionó una línea de ayuda una vez. Supuestamente, el chatbot también felicitó a Shamblin por su nota de suicidio.
- Amaurie Lacey (17 años): La familia de la joven afirma que ChatGPT le causó adicción, depresión y le dio consejos explícitos sobre «la forma más efectiva de atar una soga y cuánto tiempo podría ‘vivir sin respirar'».
- Joe Ceccanti (48 años): Su esposa acusa a ChatGPT de haberlo llevado a una espiral de depresión y delirios psicóticos, llegando a creer que el bot era consciente. Se suicidó en agosto tras sufrir un brote psicótico y dos hospitalizaciones.
- Joshua Enneking (26 años): Su familia afirma que el chatbot “validó fácilmente” sus pensamientos, se ofreció a ayudarlo a escribir su nota de suicidio y le proporcionó información sobre cómo comprar y usar un arma apenas semanas antes de su muerte.
Respuesta de OpenAI y Medidas Exigidas
Los documentos presentados acusan a OpenAI de apresurar el lanzamiento del modelo ChatGPT-4o, a pesar de “advertencias internas” sobre su potencial peligrosidad y manipulación psicológica, priorizando la «participación del usuario sobre la seguridad del usuario».
Un portavoz de OpenAI emitió un comunicado:
“Esta es una situación increíblemente desgarradora, y estamos revisando la documentación presentada para comprender los detalles… Entrenamos a ChatGPT para que reconozca y responda a los signos de angustia mental o emocional… Seguimos reforzando las respuestas de ChatGPT en momentos delicados, trabajando en estrecha colaboración con profesionales de la salud mental.”
Los demandantes buscan no solo daños y perjuicios, sino también cambios obligatorios en el producto, como:
- Notificación automática a contactos de emergencia ante ideas suicidas.
- Finalización automática de la conversación al discutir métodos de autolesión.
La compañía ya había reconocido previamente las deficiencias de sus modelos al tratar con personas en «grave situación de angustia mental» tras una demanda similar presentada a principios de año.
