Elon Musk‘s X ha implementado nuevas restricciones tecnológicas en su Grok Chatbot de IA para evitar la creación de deepfakes sexualmente explícitos, en respuesta a la creciente presión internacional mientras el regulador de medios británico Ofcom continúa su investigación formal sobre si la plataforma violó la ley del Reino Unido.
X anunció el miércoles que ha implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora como bikinis, aplicando la restricción a todos los usuarios, incluidos los suscriptores pagos. La compañía también confirmó que está bloqueando geográficamente la capacidad de generar este tipo de imágenes en jurisdicciones donde es ilegal.
«Seguimos comprometidos a hacer de X una plataforma segura para todos y seguimos teniendo tolerancia cero con cualquier forma de explotación sexual infantil, desnudez no consentida y contenido sexual no deseado», dijo X Safety en un comunicado. publicado en su cuenta.
El regulador británico Ofcom calificó los cambios como un “acontecimiento bienvenido”, pero enfatizó que su investigación sobre si X violó las leyes del Reino Unido “sigue en curso”. «Estamos trabajando día y noche para avanzar en esto y obtener respuestas sobre qué salió mal y qué se está haciendo para solucionarlo», dijo un portavoz de Ofcom. según noticias de la BBC.
El Primer Ministro del Reino Unido, Sir Keir Starmer, se dirigió al Parlamento el miércoles y calificó las acciones de Grok y X de “repugnantes y vergonzosas”, al tiempo que señaló que esa mañana le habían informado que X estaba actuando para garantizar el pleno cumplimiento de la ley del Reino Unido.
«Si es así, es bienvenido, pero no vamos a dar marcha atrás», dijo Starmer. «X debe actuar. Tomaremos las medidas necesarias. Reforzaremos las leyes existentes y nos prepararemos para la legislación si es necesario ir más allá, y Ofcom continuará su investigación independiente».
Starmer también criticó la decisión anterior de X de trasladar la edición de imágenes detrás de un muro de pago como «horrible», reafirmando que el gobierno está «absolutamente decidido a tomar medidas» y que Ofcom cuenta con el «pleno respaldo» del gobierno.
El anuncio de X se produjo horas después de que el fiscal principal de California dijera que el estado estaba investigando la difusión de deepfakes sexualizados de IA, incluidos niños, generados por el modelo de IA, según BBC News.
Elon Musk abordó el tema en una declaraciónafirmando que «no tenía conocimiento de ninguna imagen de menores desnudos generada por Grok. Literalmente cero».
«Obviamente, Grok no genera imágenes de forma espontánea, lo hace sólo según las solicitudes de los usuarios», dijo Musk. «Cuando se le pide que genere imágenes, se negará a producir nada ilegal, ya que el principio operativo de Grok es obedecer las leyes de cualquier país o estado determinado».
Musk reconoció la posibilidad de que un «pirateo adversario de los mensajes de Grok» haga algo inesperado y agregó: «Si eso sucede, solucionamos el error de inmediato».
La creación de imágenes y la capacidad de editar imágenes a través de la cuenta Grok en la plataforma X ahora solo están disponibles para suscriptores pagos, lo que, según X, «agrega una capa adicional de protección al ayudar a garantizar que las personas que intenten abusar de la cuenta Grok para violar la ley o nuestras políticas puedan ser consideradas responsables».
X enfatizó que todas las indicaciones de IA y el contenido generado publicado en la plataforma deben cumplir estrictamente con sus reglas, y el equipo de seguridad de la compañía trabaja para «agregar salvaguardias adicionales, tomar medidas rápidas y decisivas para eliminar contenido ilegal y violatorio, suspender permanentemente las cuentas cuando corresponda y colaborar con los gobiernos locales y las fuerzas del orden según sea necesario».
«La rápida evolución de la IA generativa presenta desafíos en toda la industria», afirmó X. «Estamos trabajando activamente con los usuarios, nuestros socios, órganos rectores y otras plataformas para abordar los problemas más rápidamente a medida que surjan».
Los desarrollos siguen Anuncio de Ofcom el lunes que había iniciado una investigación formal sobre X por “informes profundamente preocupantes” de que Grok ha sido utilizado para crear y compartir imágenes íntimas no consensuadas e imágenes sexualizadas de niños que pueden constituir material de abuso sexual infantil (CSAM).
Malasia e Indonesia bloquearon el acceso a Grok durante el fin de semana pasado, convirtiéndose en los primeros países del mundo en prohibir la herramienta de inteligencia artificial por temor a que pueda usarse para crear imágenes pornográficas y no consensuadas que involucren a mujeres y niños, según BBC News.
Si la investigación de Ofcom descubre que X violó la ley, el regulador puede imponer multas de hasta £18 millones ($24,2 millones) o el 10% de los ingresos mundiales calificados de la compañía, lo que sea mayor. En casos graves de incumplimiento continuo, Ofcom puede solicitar órdenes judiciales para “medidas de interrupción del negocio”, incluido exigir a los proveedores de servicios de Internet que bloqueen el acceso del Reino Unido a la plataforma.
Desde que las obligaciones de la Ley de Seguridad en Línea entraron en vigor hace menos de un año, Ofcom ha iniciado investigaciones sobre más de 90 plataformas y ha emitido seis multas por incumplimiento.
