El unión Europea ha lanzado una investigación en Elon Musk‘s X sobre los deepfakes sexualmente explícitos que han sido generados por su chatbot de IA Grok.
La investigación de la UE sigue una investigación similar iniciada por el organismo de control del Reino Unido Ofcom a principios de este mes. En el Reino Unido, Musk se enfrenta a una multa de hasta el 10% de los ingresos mundiales de X o £18 millones, lo que sea mayor, si se determina que ha violado la ley. Malasia e Indonesia también han bloqueado el acceso a la Grok Chatbot de IA sobre preocupaciones sobre deepfakes.
La nueva investigación de la UE «evaluará si la empresa evaluó y mitigó adecuadamente los riesgos asociados con el despliegue de las funcionalidades de Grok en X en la UE», dijo la UE en un comunicado. El organismo dijo que incluirá “riesgos relacionados con la difusión de contenido ilegal en la UE, como imágenes manipuladas sexualmente explícitas, incluido contenido que pueda constituir material de abuso sexual infantil”.
«Las falsificaciones sexuales de mujeres y niños son una forma violenta e inaceptable de degradación», dijo Henna Virkkunen, vicepresidenta ejecutiva de soberanía tecnológica, seguridad y democracia. «Con esta investigación determinaremos si X cumplió con sus obligaciones legales en virtud de la DSA o si trató los derechos de los ciudadanos europeos, incluidos los de mujeres y niños, como daños colaterales de su servicio», continuó Virkkunen.
La X de Musk ya ha sido investigada por la UE por sus medidas contra contenidos ilegales, como material terrorista, y ha sido multada con 120 millones de euros. En septiembre pasado, la Comisión Europea también persiguió a Grok por generar contenido antisemita.
