Así protegerán Meta y OpenAI a los adolescentes que usan inteligencia artificial
Meta y OpenAI refuerzan la seguridad de menores con nuevas herramientas para proteger a adolescentes que usan IA.
Una gran parte de los adolescentes están utilizando plataformas de inteligencia artificial generativa como forma de entretenimiento o, incluso, para ayudarse en sus tareas, por eso, Meta y OpenAI están añadiendo nuevas herramientas para mantenerlos protegidos.
Meta ya tenía establecido que cuando un adolescente da indicios de estar pensando en el suicidio o la autolesión al usar la plataforma Meta AI, ésta lo redirige a las líneas de ayuda y lo alienta a comunicarse con alguien de confianza.
Ahora esto evoluciona, porque la tecnológica avisará proactivamente a los padres que tengan activas las herramientas de supervisión parental en Instagram.
La empresa reveló que trabaja con expertos para mejorar la detección de esas señales, a lo que se añade que las conversaciones identificadas como sensibles por la inteligencia artificial serán revisadas manualmente antes de enviar un aviso.
Dichas alertas ya están activas en Estados Unidos, Reino Unido, Australia y Canadá, con miras a estar disponibles para fin de año.
También anunció que la función de Contenido limitado, la cual ofrece experiencia más restrictiva para los menores en Instagram, ahora será aplicada a las experiencias de inteligencia artificial de la compañía.
OpenAI no se queda atrás en la protección de los menores, ya que reveló que los padres con cuentas vinculadas a las de sus hijos adolescentes ahora pueden activar el Modo de Estudio directamente desde los Controles parentales.
Esto permite que dicha modalidad quede habilitada de manera predeterminada cada vez que el adolescente inicia un nuevo chat para que, cuando hagan una consulta, reciban una explicación estructurada y la oportunidad de comprender un tema paso a paso, en lugar de limitarse a recibir una respuesta.
OpenAI sabe que muchos adolescentes pueden pasar horas utilizando ChatGPT, por lo que en busca de fomentar hábitos saludables ahora enviará recordatorios más frecuentes para tomar descansos.