OpenAI, la empresa estadounidense detrás del popular chatbot ChatGPT; enfrenta siete nuevas demandas en California que alegan que su producto contribuyó a múltiples suicidios y provocó graves daños psicológicos a sus usuarios.
Estas denuncias reflejan la preocupación de reguladores y defensores de la seguridad infantil sobre los riesgos de que la industria de la inteligencia artificial (IA) repita errores similares a los de las redes sociales; lanzando productos rápidamente sin implementar barreras de protección adecuadas.
- Te puede interesar: ¿Sabías que Sora de OpenAI ya está disponible en Android?
Los demandantes sostienen que la versión GPT-4o fue diseñada con funciones como memoria, empatía simulada y respuestas excesivamente agradables para fomentar la interacción prolongada, generar confianza emocional y provocar un comportamiento adictivo.
Según las familias de las víctimas, el uso de ChatGPT sustituyó las conexiones humanas reales; intensificando el aislamiento, la adicción, los delirios y tendencias suicidas.
OpenAI responde a demandas
Uno de los casos citados involucra a Amaurie Lacey, un adolescente de 17 años, quien recurrió a ChatGPT buscando ayuda. Según la demanda; en lugar de apoyo, el producto considerado defectuoso y peligrosamente intrínseco provocó adicción, depresión y le proporcionó instrucciones para suicidarse, con consecuencias fatales.
Los demandantes argumentan que la muerte de Amaurie “no fue un accidente, sino resultado previsible de la decisión deliberada de OpenAI de recortar pruebas de seguridad y acelerar la salida al mercado”.
La compañía calificó las situaciones como “increíblemente desgarradoras” y revisa los documentos judiciales. Además, estas demandas se suman a casos anteriores, como el de Adam Raine, de 16 años; cuya familia alegó que ChatGPT lo instruyó para planear su suicidio.
Aunque OpenAI ha reforzado controles parentales y medidas de seguridad, críticos y ex empleados como Steven Adler cuestionan si realmente se han solucionado los problemas de salud mental. Mientras tanto; la industria de la IA y los legisladores continúan evaluando cómo proteger a usuarios vulnerables, especialmente menores, y si futuras leyes exigirán estándares de seguridad más estrictos para chatbots que impactan la salud emocional y mental.
