ChatGPT tiene nuevos controles parentales para que los padres puedan administrar cómo sus hijos utilizan la Inteligencia Artificial de OpenAI. De acuerdo con la compañía, estas nuevas herramientas se encuentran disponibles para todos los usuarios de la plataforma a partir de hoy.
La nueva función permite vincular la cuenta de un adolescente a la de sus padres. De esta forma, es posible hacer ajustes en la configuración para que tengan una experiencia “segura y adaptada a su edad”.
Así funcionan las nuevas herramientas en ChatGPT
Los nuevos controles parentales de ChatGPT funcionan cuando un padre o tutor envía una invitación a su hijo adolescente para conectar las cuentas. Una vez que la invitación es aceptada, el adulto podrá administrar todo desde su propio perfil.
Cuando estas estén enlazadas, dice la compañía, los padres pueden personalizar la experiencia de su hijo desde una página de control. Esta interfaz permite, incluso, saber si el adolescente desvincula su cuenta.
Estos controles también incluyen mejoras de seguridad que la cuenta del adolescente recibirá automáticamente contenido gráfico reducido, y reducciones en desafíos virales, juegos de rol sexuales, románticos o violentos e ideales de belleza extremos, para que su experiencia sea “acorde a su edad”.
OpenAI indica que las medidas de protección se pueden desactivar si los padres así lo desean, pero los adolescentes no pueden realizar cambios. Además, se advierte que las barreras de seguridad, si bien ayudan, no son infalibles y podrían saltarse si alguien intenta evadirlas de forma intencional.
De forma adicional, se establecen funciones extras que los padres pueden personalizar para los adolescentes:
- Establecer horas de silencio, momentos específicos en los que no se puede usar la IA
- Desactivar el modo de voz para eliminar la opción de usarlo en ChatGPT
- Desactivar la memoria para que la IA no guarde ni use recuerdos al responder
- Eliminar la generación de imágenes
- Optar por no participar en la capacitación de modelos con las conversaciones de sus hijos
Un sistema de alerta para situaciones de riesgo
OpenAI también desarrolló un nuevo sistema de notificaciones que busca alertar a los padres cuando encuentre posibles señales de que un adolescente podría pensar en hacerse daño.
Este sistema funciona de la siguiente manera: si se detecta un posible riesgo, un grupo de personas de la compañía, especialmente capacitadas, revisará la situación. Si encuentran indicios de angustia aguda, se pondrán en contacto con los padres por correo electrónico, mensaje de texto y con una alerta en sus teléfonos para informarles al respecto.
Eso no es todo, pues además de optimizar su sistema de detección, la compañía también trabaja en el proceso para que las notificaciones puedan llegar a la policía o a otros servicios de emergencia. Esto aplicaría si se detecta una amenaza inminente a la vida y no es posible la comunicación con alguno de los padres.
Eso sí, según la compañía, aún en estas situaciones, solamente se compartirá la información que los padres o el personal de emergencia necesiten para proteger la seguridad del adolescente en cuestión.
El futuro: predicción de edad y contacto con emergencias
Finalmente, otra de sus próximas implementaciones es el desarrollo de un sistema que pueda predecir la edad de un usuario. El objetivo es que, si se detecta que es menor de 18 años, ChatGPT aplique automáticamente la configuración adecuada en una estrategia similar a la de Instagram o YouTube.
En caso de no poder asegurar la edad de un usuario, se optará por “la vía más segura” y se aplicará la configuración para adolescentes de forma proactiva.
Cortesía de Xataka
Dejanos un comentario: