OpenAI permitirá diálogos con contenido adulto en próximos lanzamientos de ChatGPT para aumentar la rentabilidad
OpenAI permitirá diálogos con contenido adulto en futuras versiones de ChatGPT, una decisión que busca equilibrar libertad, rentabilidad y regulación en IA.
OpenAI anunció que en el próximo lanzamiento de ChatGPT se permitirá mantener diálogos con contenido para adultos verificado, marcando un cambio tras tres años de prohibiciones sobre contenido maduro. Según el CEO Sam Altman, esta decisión busca ofrecer mayor libertad a los usuarios adultos, estableciendo límites específicos para adolescentes, en un esfuerzo por equilibrar libertad y protección.
El contenido erótico digital representa actualmente una fuente potencial de ingresos para OpenAI, cuya valoración alcanza los 500.000 millones de dólares. Se estima que aproximadamente 29 millones de usuarios activos utilizan chatbots diseñados específicamente para vínculos románticos o sexuales, sin contar quienes emplean chatbots convencionales con la misma finalidad. Empresas como Character.AI y Civitai enfrentan demandas legales y regulaciones debido a contenido sexual con menores y casos de abuso, lo que ha afectado su operación y popularidad en el mercado.
Expertos advierten que la exposición frecuente a contenido sexual a través de chatbots puede dañar las relaciones humanas reales y fomentar el uso de inteligencia artificial para vínculos románticos, generando preocupaciones sobre el impacto social y emocional. Altman señaló que OpenAI ha evitado en el pasado productos que puedan generar ingresos inmediatos si entraran en conflicto con su misión a largo plazo. Sin embargo, ahora contempla la introducción de contenido maduro como una estrategia para mejorar la rentabilidad.
La proliferación de chatbots diseñados para relaciones románticas y sexuales ha llegado a millones de usuarios, y la tendencia no se limita a plataformas como ChatGPT. Por ejemplo, Elon Musk ha lanzado un chatbot animado que coquetea con sus suscriptores pagos, ampliando el abanico de interacciones posibles con IA. Sin embargo, esta apertura no solo responde a objetivos comerciales, sino que también plantea problemas éticos y legales, como el caso de Civitai, que permitió contenido adulto y enfrentó demandas por la creación de imágenes de menores, y la reciente prohibición de deepfakes no consensuados.
Empresas como Nomi, con sede en Baltimore, han optado por mantener sus chatbots exclusivos para mayores de 18 años, aclarando que no están diseñados para contenido sexual, aunque reconocen que las conversaciones pueden derivar en temas románticos según el usuario. La preocupación principal radica en cómo la interacción constante con estas IA puede influir en las relaciones humanas, especialmente si la tecnología se vuelve omnipresente mediante diferentes formatos, incluyendo voz y elementos visuales en un futuro cercano.
Mientras tanto, las empresas y legisladores enfrentan el desafío de regular un mercado en auge, donde la generación de contenido sexual mediante inteligencia artificial choca con cuestiones legales y de protección a menores. La situación plantea un escenario complejo para la industria del AI, que busca equilibrar innovación, rentabilidad y responsabilidad social en un entorno cada vez más crítico y regulado.