OpenAI lanzó ChatGPT for Teens, una versión de su chatbot orientada a adolescentes de entre 13 y 17 años, con protecciones de seguridad adicionales, controles parentales y funciones pensadas para el aprendizaje. El objetivo es habilitar el uso de inteligencia artificial para estudiar, crear y desarrollar habilidades dentro de una experiencia adaptada a la edad.
La herramienta suma un nivel de protección específico para temas como violencia gráfica, autolesiones, comportamientos peligrosos, imagen corporal y contenido sexual. También incorpora límites para situaciones vinculadas con desafíos peligrosos y contenido sexual o romántico, además de restricciones adicionales para interacciones que puedan fomentar comportamientos de riesgo. El foco es reducir la exposición a contenidos e interacciones considerados inapropiados para ese grupo etario.
El desarrollo de la experiencia se basó en cuatro compromisos: poner la seguridad de los adolescentes en primer lugar, fomentar el apoyo en el mundo real, tratar a los adolescentes como adolescentes y ser transparente sobre cómo deben comportarse los sistemas. En ese marco, OpenAI reconoce que “ningún sistema de IA es perfecto”. Por ese motivo, el enfoque combina mecanismos tecnológicos, configuraciones específicas para menores de edad y la participación de madres, padres o tutores.
Los controles parentales permiten vincular la cuenta de un adulto responsable con la de un adolescente y ajustar configuraciones como el Modo Estudio, los horarios de silencio y otras opciones de seguridad. En situaciones consideradas de alto riesgo, el sistema puede enviar una notificación a los responsables. Sin embargo, el acceso es limitado: no pueden leer las conversaciones. “El objetivo no es convertir ChatGPT en una herramienta de vigilancia”, sostuvo OpenAI.
En el plano educativo, ChatGPT for Teens busca evitar el uso de respuestas listas para copiar y pegar y orientar la interacción hacia la comprensión. El Modo Estudio utiliza preguntas orientadoras, explicaciones y apoyo paso a paso para ayudar a comprender un tema y desarrollar razonamiento propio. Además, incorpora recordatorios para tareas escolares: si el sistema detecta que el adolescente intenta obtener únicamente una respuesta directa, puede redirigir la conversación al Modo Estudio.
Las Horas de Estudio permiten definir períodos durante los cuales las nuevas conversaciones que cumplan los requisitos comiencen automáticamente en ese modo, con la intención de integrar la herramienta a la rutina escolar.
ESET Latinoamérica planteó que la discusión sobre seguridad adolescente ante la IA excede a solo el filtrado de contenido. Uno de los desafíos centrales es la antropomorfización, es decir, la tendencia a atribuir características humanas, emociones y vínculos afectivos a un sistema tecnológico. “Hacer que una IA sea más segura para este público no consiste solo en filtrar temas sensibles”, comentó Mario Micucci, investigador de Seguridad Informática de ESET Latinoamérica. “También implica definir límites sobre cómo el sistema interactúa con los adolescentes”, agregó.
