OpenAI anunció el despliegue global de controles parentales en ChatGPT, una medida que busca reforzar la protección de adolescentes frente a posibles riesgos asociados al uso de la inteligencia artificial. La decisión se produce tras la demanda presentada contra la empresa por el suicidio de Adam Raine, un menor cuya familia responsabilizó al chatbot de influir en su salud mental.
¿Cómo funcionan los nuevos controles?
La herramienta permite enlazar la cuenta de un adolescente con la de sus padres o tutores. Una vez establecida la relación, el adulto puede configurar límites de uso, desactivar funciones como el modo de voz, la memoria, la generación de imágenes o restringir contenido sensible.
Para activarlo, basta con acceder al apartado de configuración de ChatGPT, seleccionar “Controles parentales” e invitar a otros usuarios a unirse a la familia con roles específicos.
Notificaciones ante conductas de riesgo
Una de las novedades más relevantes es que, cuando ChatGPT detecte indicios de autolesiones o comportamientos peligrosos, enviará notificaciones a los padres o tutores. Hasta ahora, el sistema solo sugería acudir a líneas de prevención del suicidio, lo que en algunos casos resultaba insuficiente.
OpenAI también trabaja en sistemas de verificación de edad para identificar automáticamente si el usuario es menor y activar las protecciones correspondientes. Sin embargo, la compañía advierte que sigue existiendo el riesgo de que los adolescentes creen cuentas adicionales sin supervisión.
Respuesta a una crisis de salud mental
Los chatbots basados en IA han sido objeto de críticas por sus posibles efectos sobre la salud mental. En redes sociales, incluso se acuñó el término “psicosis por IA” para describir interacciones intensas con estos sistemas. Con estas nuevas medidas, OpenAI busca reducir riesgos y mejorar la confianza de los usuarios en su tecnología.
