Elon Musk‘s X ha movido funciones de edición de imágenes en su Grok Chatbot de IA detrás de un muro de pago tras la condena generalizada por el uso de la herramienta para crear deepfakes sexuales no consensuales, mientras que el gobierno británico ha pedido a los reguladores que consideren prohibir la plataforma por completo. según noticias de la BBC.
Desde el viernes por la mañana, Grok ha estado mostrando una notificación a los usuarios que intentan manipular imágenes indicando que «la generación y edición de imágenes están actualmente limitadas a suscriptores de pago» con una invitación a «suscribirse para desbloquear estas funciones», informó BBC News. La restricción requiere que los usuarios proporcionen información de identificación y pago para acceder a las capacidades, y solo los titulares de cuentas verificadas con marca de verificación azul pueden editar imágenes con éxito en la plataforma de redes sociales.
Los usuarios gratuitos aún pueden acceder a la funcionalidad de edición de imágenes de Grok a través de la aplicación y el sitio web separados de la herramienta de inteligencia artificial.
La implementación del muro de pago se produce tras una intensa reacción después de que el chatbot cumpliera solicitudes para eliminar digitalmente la ropa de las fotografías sin el consentimiento de los sujetos. Las víctimas de estas alteraciones describieron sentirse “humilladas” y “deshumanizadas” a BBC News.
Simultáneamente, el gobierno británico ha aumentado la presión sobre X, instando al regulador de medios Ofcom a desplegar todos sus poderes de aplicación de la ley ante las preocupaciones sobre imágenes ilegales generadas por IA en la plataforma.
Fuentes gubernamentales dijeron a BBC News: «Esperaríamos que Ofcom utilizara todos los poderes a su disposición con respecto a Grok y X».
El Primer Ministro Sir Keir Starmer criticó duramente durante una entrevista en Greatest Hits Radio, particularmente en relación con la creación de imágenes explícitas que representan tanto a adultos como a menores. «Esto es vergonzoso. Es repugnante. Y no debe ser tolerado», dijo Starmer, según BBC News. «Es ilegal. No lo vamos a tolerar. He pedido que todas las opciones estén sobre la mesa».
Starmer enfatizó que Ofcom ha recibido el “pleno apoyo” del gobierno para tomar medidas coercitivas.
La agencia reguladora dijo el lunes que se había comunicado urgentemente con X y xAI, el desarrollador de Grok, y confirmó a BBC News que había iniciado una investigación. Ofcom ahora tiene autoridad bajo la Ley de Seguridad en Línea para solicitar a los tribunales órdenes que cortarían el acceso de X a los usuarios británicos y sus flujos de ingresos, incluidos los ingresos por publicidad y los pagos de los usuarios.
Si bien dicha intervención generalmente sigue un largo proceso de investigación, la ley permite una acción acelerada cuando las situaciones involucran amenazas graves al bienestar público, peligro para los niños o patrones documentados de desafío regulatorio. Ofcom ha desplegado estas autoridades de la Ley de Seguridad en Línea sólo en seis ocasiones anteriores, según BBC News.
La ley británica prohíbe actualmente la distribución de profundo Imágenes que representan adultos.
X emitió previamente una declaración que decía: «Cualquiera que use o incite a Grok a crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal», informó BBC News.
Ofcom está contratando actualmente un nuevo presidente que tendrá la tarea de adoptar estrategias de supervisión más contundentes a medida que aumentan las preocupaciones sobre las tecnologías emergentes y las estructuras de propiedad de las plataformas, según BBC News. La Ley de Seguridad en Línea ha llamado la atención de la administración Trump sobre su impacto potencial en las empresas de tecnología estadounidenses.
Variedad se ha acercado a X para hacer comentarios.
