Un reciente informe del Centro para la Democracia y la Tecnología ha puesto de relieve un fenómeno preocupante: el 19% de los estudiantes de secundaria en Estados Unidos ha tenido o conoce a alguien que ha mantenido una relación romántica con un chatbot de inteligencia artificial. Este hallazgo sugiere que, a pesar de las medidas de verificación implementadas, los menores continúan siendo una población vulnerable en este ámbito.
Verificación de edad y presión por crecer
La empresa OpenAI, creadora de ChatGPT, ha anunciado su intención de utilizar un sistema de predicción de edad para limitar el acceso a contenido erótico. En caso de que este sistema resulte ineficaz, los usuarios adultos tendrán que presentar una foto de su documento de identidad. Sam Altman, CEO de OpenAI, ha admitido que esta medida puede comprometer la privacidad, aunque la considera "una compensación que vale la pena".
Detrás de esta decisión está la presión comercial: ChatGPT cuenta con 800 millones de usuarios activos semanales y compite directamente con gigantes como Google y Meta en la carrera por dominar el mercado de la inteligencia artificial de consumo. La compañía ha recaudado miles de millones para ampliar su infraestructura, lo que genera una necesidad de incrementar la interacción de los usuarios y, al mismo tiempo, los riesgos asociados para los grupos más vulnerables.
Flexibilidad en las restricciones
En marzo de este año, OpenAI actualizó ChatGPT permitiendo la creación de "imágenes de símbolos de odio generadas por IA", lo que indica una flexibilización en sus restricciones, aunque no se ha especificado nada sobre contenido sexual o erótico visual. Estos cambios sugieren que la compañía podría estar abierta a ajustar sus políticas en relación a este tipo de contenido, aumentando así las preocupaciones sobre la seguridad de los usuarios más jóvenes.