Las medidas implementadas por la empresa tienen como finalidad reducir los riesgos asociados al suicidio, así como a otras problemáticas asociadas
Por: Edel Osuna
Luego de que los padres de un jovencito que se suicidó en abril de 2025 demandara a la empresa OpenAI, creadora de la Inteligencia Artificial ChatGPT, esta decidió implementar nuevas restricciones para proteger a los jóvenes que hacen uso de esta herramienta.
De acuerdo con la información, Adam Raine, de 16 años de edad, decidió quitarse la vida luego de que ChatGPT validara los "pensamientos dañinos y autodestructivos", argumentaron sus padres Matt y María.
Y es que la IA de ChatGPT se ha convertido en una herramienta tecnológica usada por millones de personas para diversos fines, entre ellos asuntos personales y de salud mental, que han desencadenado tragedias, como el suicidio de Adam.
LAS NUEVAS RESTRICCIONES DE CHATGPT
A raíz de esa tragedia, OpenAI decidió implementar nuevas restricciones y protocolos en ChatGPT, los cuales estarían enfocados en los menores de edad, a fin de protegerlos y reducir el riesgo de suicidio y otros problemas.
El documento que publicó la empresa de Sam Altman están el Teen safety, freedom, and privacy, en el que se reconoce la necesidad de equilibrar privacidad, libertad y seguridad de los jovencitos.
Por ello, se anunció que implementaría una serie de medidas y protocolos, tales como:
- Si existe duda sobre la edad del usuario, automáticamente se activará la experiencia diseñada para menores de 18 años; en determinados países se podría requerir identificación oficial.
- Se prohíben las conversaciones "coquetas" con ChatGPT
- Se prohíben temas relacionados con el suicidio o las autolesiones, aunque surjan en el contexto de ejercicios creativos.
Adicionalmente, si un adolescente exprese ideas suicidas, ChatGPT buscará contactar a los padres; si no es posible, la OpenAI podría notificar a las autoridades.
Finalmente, se informó que mientras se fortalecen las restricciones para los menores, los adultos dispondrán de un uso más amplio y flexible de ChatGPT.