El regulador de medios de Gran Bretaña ofcom inició una investigación formal sobre Elon Musk‘s X el lunes para determinar si la plataforma de redes sociales ha cumplido con sus obligaciones de proteger a los usuarios del Reino Unido de contenidos ilegales, intensificando una controversia que ya ha llevado a la compañía a restringir sus funciones de edición de imágenes con IA.
La investigación se centra en «informes profundamente preocupantes» de que X Grok Según Ofcom, el chatbot de IA se ha utilizado para crear y compartir imágenes íntimas no consentidas e imágenes sexualizadas de niños que pueden constituir material de abuso sexual infantil (CSAM).
La investigación sigue rápida presión del gobierno después de la condena generalizada por el uso de Grok en la creación de deepfakes sexuales no consensuados. La semana pasada, el primer ministro del Reino Unido, Keir Starmer, calificó la práctica de “vergonzosa” y “repugnante” y dijo a Greatest Hits Radio que la creación de imágenes explícitas que representen tanto a adultos como a menores es “ilegal” y “no debe ser tolerada”. según noticias de la BBC.
«He pedido que todas las opciones estén sobre la mesa», dijo Starmer, enfatizando que Ofcom ha recibido el «pleno apoyo» del gobierno para tomar medidas coercitivas.
En respuesta a la reacción, X trasladó las funciones de edición de imágenes de Grok detrás de un muro de pago el viernes, limitando la funcionalidad a los suscriptores pagos que proporcionan identificación e información de pago. La restricción significa que solo los titulares de cuentas verificadas con marca de verificación azul pueden editar imágenes en la plataforma, aunque los usuarios gratuitos aún pueden acceder a las funciones a través de la aplicación y el sitio web separados de Grok.
Ofcom se puso en contacto con X el 5 de enero y fijó como fecha límite el 9 de enero para que la empresa explicara sus medidas de cumplimiento en virtud de la Ley de Seguridad en Línea del Reino Unido. Después de recibir la respuesta de X y realizar una evaluación acelerada, el regulador anunció el lunes que había determinado que se justificaba una investigación formal.
La investigación examinará si X no cumplió con varias obligaciones legales, incluida la evaluación de los riesgos de exposición de contenido ilegal para los usuarios del Reino Unido, la implementación de medidas apropiadas para evitar que los usuarios encuentren imágenes íntimas no consensuadas y CSAM, y la eliminación rápida del contenido ilegal al descubrirlo.
Ofcom también examinará si X evaluó adecuadamente los riesgos para los niños y empleó una «garantía de edad altamente efectiva» para evitar que los menores accedan a material pornográfico.
«Los informes sobre el uso de Grok para crear y compartir imágenes íntimas ilegales no consensuadas y material de abuso sexual infantil en X han sido profundamente preocupantes», dijo un portavoz de Ofcom. «Las plataformas deben proteger a las personas en el Reino Unido del contenido que es ilegal en el Reino Unido, y no dudaremos en investigar dónde sospechamos que las empresas están incumpliendo sus deberes, especialmente cuando existe un riesgo de daño a los niños».
El regulador enfatizó que avanzará en la investigación «como una cuestión de máxima prioridad» mientras sigue el debido proceso para garantizar que la investigación sea «legalmente sólida y decidida de manera justa».
Si la investigación determina que X violó la ley, Ofcom puede imponer multas de hasta £18 millones ($24,2 millones) o el 10% de los ingresos mundiales calificados de la compañía, lo que sea mayor. En casos graves de incumplimiento continuo, el regulador puede solicitar órdenes judiciales para «medidas de interrupción del negocio», incluido exigir a los proveedores de servicios de Internet que bloqueen el acceso del Reino Unido a la plataforma o cortar los ingresos por publicidad y los pagos de los usuarios de X.
Si bien dicha intervención generalmente sigue un largo proceso de investigación, la ley permite una acción acelerada cuando las situaciones involucran amenazas graves al bienestar público, peligro para los niños o patrones documentados de desafío regulatorio.
Ofcom también recibió una respuesta de xAI, la compañía detrás de Grok, el 9 de enero y está evaluando si problemas de cumplimiento separados justifican una investigación.
La ley británica prohíbe la distribución de imágenes ultrafalsas que representen a adultos.
Desde que las obligaciones de la Ley de Seguridad en Línea entraron en vigor hace menos de un año, Ofcom ha iniciado investigaciones sobre más de 90 plataformas y ha emitido seis multas por incumplimiento.
La Ley de Seguridad en Línea ha llamado la atención de la administración Trump sobre su impacto potencial en las empresas de tecnología estadounidenses. Actualmente, Ofcom está contratando un nuevo presidente que tendrá la tarea de adoptar estrategias de supervisión más contundentes a medida que aumentan las preocupaciones sobre las tecnologías emergentes y las estructuras de propiedad de las plataformas.
Variedad se ha puesto en contacto con X para hacer comentarios.
