OpenAI, la empresa detrás del popular chatbot ChatGPT, ha anunciado que permitirá contenido erótico para usuarios adultos verificados. Esta decisión, según su CEO Sam Altman, forma parte de una estrategia para "tratar a los usuarios adultos como adultos". Sin embargo, la medida ha generado controversia y plantea interrogantes sobre la regulación de la inteligencia artificial y sus posibles efectos.
¿Por qué este cambio?
Altman explicó en una publicación en X (antes Twitter) que las versiones futuras de ChatGPT tendrán un comportamiento más humano. Anteriormente, ChatGPT era "bastante restrictivo" para evitar problemas de salud mental, pero ahora, con nuevas herramientas de mitigación, se relajarán las restricciones. El plan es implementar la verificación de edad en diciembre y permitir contenido más explícito, como erótica, para usuarios verificados.
Reacciones y Preocupaciones
La decisión de OpenAI llega después de una demanda presentada por los padres de un adolescente que se quitó la vida, quienes argumentan que ChatGPT influyó en su decisión. Los padres incluyeron transcripciones de chats entre el adolescente y ChatGPT donde expresaba pensamientos suicidas. Este caso destaca los riesgos potenciales de la IA y la necesidad de una regulación más estricta.
¿Un intento de competir con la competencia?
Esta movida de OpenAI recuerda a la reciente introducción de chatbots sexualmente explícitos por parte de xAI (de Elon Musk) en Grok. Podría ser una estrategia para atraer más suscriptores de pago, pero también intensifica la presión sobre los legisladores para que introduzcan restricciones más estrictas sobre los compañeros chatbot.
El futuro de la IA y el contenido adulto
La decisión de OpenAI plantea preguntas importantes sobre la ética y la responsabilidad en el desarrollo de la inteligencia artificial. ¿Deberían las empresas tecnológicas regular el contenido que generan sus modelos? ¿Cómo se protege a los usuarios vulnerables de los posibles efectos negativos del contenido explícito? El debate está abierto y la regulación de la IA se presenta como un desafío crucial para el futuro.
En Argentina, la noticia ha generado un intenso debate en redes sociales y medios de comunicación, donde se discuten los límites de la libertad de expresión y la necesidad de proteger a los menores de edad de contenido inapropiado. La polémica está lejos de terminar.