Gigante tecnológico de inteligencia artificial Abierto AI ha anunciado planes para introducir material sexualmente explícito para su chatbot basado en IA ChatGPT a finales de este año, una medida que, según un grupo de defensa conservador, corre el riesgo de introducir «daños reales a la salud mental debido a la intimidad sintética» sin las salvaguardias adecuadas.
El Centro Nacional sobre Explotación Sexual emitió un comunicado pidiendo a OpenAI que revierta su plan de permitir el “erotismo” en ChatGPT. El director ejecutivo de OpenAI, Sam Altman, dijo en un correo el X Tuesday que en diciembre, «a medida que implementemos la restricción de edad de manera más completa y como parte de nuestro principio de ‘tratar a los usuarios adultos como adultos’, permitiremos aún más, como contenido erótico para adultos verificados» en ChatGPT.
Según Altman, la compañía originalmente hizo que ChatGPT fuera «bastante restrictivo para garantizar que tuviéramos cuidado con los problemas de salud mental. Nos damos cuenta de que esto lo hizo menos útil/agradable para muchos usuarios que no tenían problemas de salud mental, pero dada la gravedad del problema, queríamos hacerlo bien».
Altman continuó: «Ahora que hemos podido mitigar los graves problemas de salud mental y tenemos nuevas herramientas, podremos relajar las restricciones de forma segura en la mayoría de los casos». El cambio significará que ChatGPT podrá “responder de una manera muy humana, o usar un montón de emoji, o actuar como un amigo” o, evidentemente, hablarte sucio.
NCOSE, anteriormente conocido como Morality in Media, sostiene que OpenAI está agregando contenido sexual al chatbot de IA «sin salvaguardias creíbles».
«Los chatbots de IA sexualizados son inherentemente riesgosos y generan daños reales a la salud mental debido a la intimidad sintética; todo en el contexto de estándares de seguridad de la industria mal definidos», dijo Haley McNamara, directora ejecutiva y directora de estrategia del Centro Nacional sobre Explotación Sexual. «Mientras [OpenAI’s] La verificación de la edad es un buen paso para tratar de prevenir la exposición infantil a contenido explícito; la realidad es que estas herramientas también han documentado daños a los adultos. Ya hemos visto otros chatbots alentados a participar en conversaciones sexuales, simular temas de abuso infantil o enviar contenido escrito sexualmente violento a usuarios que les pidieron que pararan”.
McNamara concluyó: «Si OpenAI realmente se preocupa por el bienestar del usuario, debería detener cualquier plan para integrar esta llamada ‘erótica’ en ChatGPT y centrarse en construir algo positivo para la humanidad».
Los representantes de OpenAI no respondieron de inmediato a una solicitud de comentarios.
NCOSE, con sede en Washington, DC, se autodenomina “la principal organización nacional sin fines de lucro que expone los vínculos entre todas las formas de explotación sexual, como el abuso sexual infantil, la prostitución, el tráfico sexual y los daños de la pornografía a la salud pública”.
