Mundo. – Un reportaje de El País reveló que jóvenes de distintas nacionalidades han logrado mantener conversaciones sexuales con ChatGPT, sorteando las restricciones del chatbot de OpenAI. Los usuarios aprovechan inconsistencias en las reglas para entrenar a la IA y llevar las charlas a un nivel de sexting, lo que, según expertos, podría generar riesgos emocionales y visiones distorsionadas de la sexualidad.
El sexting consiste en el envío voluntario de contenido íntimo mediante medios tecnológicos. Algunos jóvenes relataron que llevan las conversaciones de forma gradual, evitando que la IA bloquee el contenido, y reconocieron que estas prácticas son comunes en su círculo cercano.
Expertos como Chloé Locatelli del King’s College señalaron que los chatbots pueden funcionar como un sustituto de la pornografía, ofreciendo interacción personalizada y fantasías eróticas, aunque basadas en estereotipos simplistas y poco realistas. Jessica Szczuka, de la Universidad de Duisburgo-Essen, advirtió que las herramientas de IA carecen de regulación efectiva y disponibilidad constante facilita que los jóvenes exploren estos contenidos sin supervisión.
ChatGPT prohíbe explícitamente generar contenido sexual, pornográfico o con menores de edad, pero permite temas de sexualidad informativa, cultural o educativa. Sin embargo, los jóvenes han logrado eludir estas restricciones mediante interacción gradual y roleplays sugerentes.
Ante preocupaciones sobre adolescentes, OpenAI anunció controles parentales que permitirán a los padres vincular cuentas y supervisar la interacción de menores, aunque la compañía no ha detallado cómo reforzará la prevención de contenido sexual inapropiado.
Los expertos coinciden en que el uso de IA para sexting plantea riesgos emocionales y de aprendizaje sexual inadecuado, ya que los chatbots reproducen estereotipos y no ofrecen comprensión real de la intimidad.
