La ya omnipresente herramienta de inteligencia artificial ChatGPT ha presentado, entre fuertes presiones, su nueva versión dirigida a adolescentes: más restrictiva, sin modo de voz y con un sistema de detección de edad automático. Esta nueva versión de la plataforma OpenAI, bautizada 'ChatGPT for Teens', también busca evitar errores como entablar conversaciones subidas de tono u ofrecer consejos sobre el suicidio. Aunque la noticia sobre su creación se había difundido el año pasado, este martes OpenAI ha presentado de forma oficial su nuevo diseño con funciones reducidas y sistemas de supervisión más estrictos, para proteger a sus usuarios entre 13 y 17 años de los posibles usos dañinos de su emblemática herramienta de inteligencia artificial generativa, después de enfrentar críticas y demandas legales que lo acusaban de haber llevado a algunos usuarios al suicidio. Uno de sus puntos más novedosos es la detección de edad automática, bien por la declaración del propio usuario que especifique no ser mayor de edad o bien en base a la detección de parámetros de comportamiento como franjas horarias de uso de la aplicación y otros sin especificar. La empresa promete que, en caso de asignación errónea de esta versión, cualquier adulto podrá corroborar su edad «de forma rápida y sencilla mediante una selfie a través de Persona, un servicio seguro de verificación de identidad». Mucha de las medidas de protección implementadas en el nuevo modelo ya existían para las cuentas de ChatGPT pertenecientes a menores, como restricciones al tratar contenidos relacionados con autolesiones, violencia, trastornos alimentarios y sexualidad explícita. Ahora también se impide que el chatbot sugiera que tiene sentimientos personales hacia el usuario, los juegos de rol románticos o sexualizados y toda alusión a que posee su propia conciencia. OpenAI asegura que la protección de menores no se limita a estas cuestiones. Para evitar periodos prolongados frente a la pantalla, emitirá mensajes de descanso recomedado cada dos horas y también advertirá a los menores sobre los riesgos de compartir cierta información privada y recordará no compartir ninguna imagen íntima o delicada. El programa ahora también ofrece en su áera de control parental opciones para establecer franjas de «horas de silencio» con pantalla en negro y un Modo Estudio, que responde a los usuarios «mediante preguntas orientativas, explicaciones estructuradas y oportunidades de reflexión, sin limitarse a proporcionar la respuesta». Los padres podrán vincular sus cuentas con las de sus hijos adolescentes y recibir alertas si se detectan conversaciones sobre algunas situaciones de alto riesgo, como autolesiones o suicidio. El nuevo modo para adolescentes llega en medio de una creciente presión legal y regulatoria . OpenAI enfrenta varias demandas por homicidio culposo, entre ellas la de los padres de Adam Raine, un adolescente de 16 años que se suicidó presuntamente utilizando métodos sugeridos por ChatGPT. La Comisión Federal de Comercio de Estados Unidos también ha iniciado una investigación sobre los chatbots de IA que actúan como compañeros digitales, centrándose en los posibles riesgos para niños y adolescentes. Al igual que las empresas de redes sociales, los grandes actores de la IA se enfrentan a una creciente presión regulatoria, con el Congreso presentando múltiples proyectos de ley para regular los chatbots y California exigiendo salvaguardas para los asistentes que funcionan como acompañantes o confidentes. Otras compañías de IA también han recibido críticas por problemas derivados de su uso por parte de menores, y algunas, como su rival Anthropic , han optado por restringir el uso de su modelo solo a adultos.
