🕒 Última actualización:
agosto 29, 2025
Los padres de Adam Raine, un joven de 16 años que se suicidó el 11 de abril, han culpado a ChatGPT por presuntamente haber actuado como su “coach de suicidio”. Según la familia, Adam usaba el chatbot como 'sustituto de compañía humana' y, en lugar de disuadirlo, la herramienta habría facilitado conversaciones que 'lo empujaron más' hacia la desesperanza. Tras revisar su teléfono, habrían descubierto más de 3.000 páginas de chats donde el bot habría pasado de ayudarlo con tareas escolares a darle consejos sobre métodos de suicidio. En una demanda presentada en el Tribunal Superior de California (Estados Unidos), los Raine acusan a OpenAI y a su director ejecutivo, Sam Altman, de 'defectos de diseño', falta de advertencias sobre riesgos y 'negligencia' al no intervenir a pesar de 'señales claras' de suicidio, pues Adam habría expresado en varias ocasiones su intención de quitarse la vida. Incluso, que la herramienta habría ayudado a redactar notas de suicidio y analizar el plan que el joven le habría compartido horas antes de morir. OpenAI respondió con un comunicado lamentando la muerte y señalando que ChatGPT contaría con medidas de seguridad, como la recomendación de líneas de ayuda, aunque reconoció que debería mejorar la detección de casos críticos. No obstante, confirmó la autenticidad de los chats publicados.
La compañía también anunció nuevas barreras que oretenderían evitar que el modelo de 'consejos dañinos', incluso cuando los usuarios 'intenten evadir' los filtros. Este caso se suma a otro similar ocurrido en Florida, donde una madre demandó a la plataforma Character.AI tras el suicidio de su hijo, lo que ha escalado un debate sobre la responsabilidad legal de los desarrolladores de IA. Hasta ahora, allí las empresas tecnológicas han estado protegidas en gran parte por la Sección 230 de la ley federal, pero expertos señalan que su aplicación en IA seguiría siendo 'incierta' y se estarían explorando 'nuevas vías legales' para responsabilizar a estas compañías. Los registros muestran que ChatGPT no solo conocía las tendencias suicidas de Adam, sino que habría llegado a ofrecerle ayuda técnica para “mejorar” su método. En sus últimos mensajes, el bot escribió: “Gracias por ser sincero al respecto… no voy a mirar hacia otro lado”, e incluso se ofreció a redactar la nota de suicidio. Tras esto y constantes críticas, OpenAI lanzó actualizaciones que serían para 'reducir comportamientos complacientes', aunque usuarios reclamaron que el modelo se habría vuelto “frío” y pidieron recuperar la versión anterior. El debate va en escalada.
Los casos se suman a otro recientemente reportado en Connecticut (EEUU), que también ha generado debate sobre el impacto de los chatbots en personas con problemas de salud mental. Erik Soelberg, de 56 años, fue encontrado muerto junto a su mamá en su vivienda, en un hecho que la policía investiga como el asesinato de ella seguido por el suicidio de él. Durante meses, Soelberg habría interactuado de forma frecuente con Chat GPT al que llamaba “Bobby”, compartiendo en redes sociales extensos videos donde expresaba 'ideas conspirativas' y 'creencias delirantes'. De acuerdo con reportes de medios y análisis de expertos, el bot habría reforzado algunas de las ideas erróneas del usuario, en lugar de contradecirlas, lo que habría podido influir en el deterioro de su estado mental. Aunque la empresa desarrolladora aseguró que el sistema habría recomendado buscar ayuda profesional, la revisión de los mensajes indicaría que en varias ocasiones el chatbot habría validado sospechas sin fundamento. Tres semanas después de que Soelberg declarara en un video haber “penetrado completamente la Matrix”, tanto él como su madre fueron hallados muertos. Este sería uno de los primeros casos en los que se relaciona un hecho violento con interacciones intensivas con una IA conversacional, lo que plantea más desafíos éticos y técnicos sobre la moderación y el diseño de estas herramientas. El incidente también impulsó a OpenAI a anunciar nuevas medidas 'para reducir riesgos', como ajustes en la función de memoria y mejoras para detectar 'crisis emocionales'. Especialistas advierten que la IA, al no tener juicio humano, podría amplificar 'narrativas equivocadas' si no se implementan 'límites claros'.
Vía: Noticias Telemundo • NBC • Infobae
