El gobierno indio emitió el viernes un severo aviso a la plataforma de redes sociales X, liderada por Elon Musk, ordenándole que elimine de inmediato todo el contenido vulgar, obsceno e ilegal, en particular el generado por la aplicación de inteligencia artificial (IA). Groko enfrentar acciones legales, informó la agencia de noticias PTI.
El Ministerio de Electrónica y TI (MeitY) entregó la notificación al Director de Cumplimiento para las operaciones de X en India por no cumplir con las obligaciones legales en virtud de la Ley de Tecnología de la Información de 2000 y las Reglas de TI de 2021.
“Por la presente se ordena a X que elimine o deshabilite el acceso, sin demora, a todo el contenido ya generado o difundido en violación de las leyes aplicables, en estricto cumplimiento de los plazos prescritos en las Reglas de TI de 2021, sin evidencia viciada”, decía la orden del 2 de enero, según PTI.
El ministerio también pidió a X que tomara medidas contra el contenido, los usuarios y las cuentas ofensivos, y que presentara un informe detallado de medidas tomadas (ATR) en un plazo de 72 horas.
La orden citó quejas del público y de partes interesadas parlamentarias de que cierto contenido que circulaba en X violaba leyes relacionadas con la decencia y la obscenidad, informó PTI. Destacó el uso indebido del servicio de inteligencia artificial Grok para generar cuentas falsas, crear, publicar o compartir imágenes o videos obscenos de mujeres, incluso apuntando a mujeres que publican sus propias fotos o videos.
“Esto refleja una falla grave de las salvaguardias y los mecanismos de aplicación a nivel de plataforma, y equivale a un grave uso indebido de AI tecnologías en violación de las leyes aplicables”, dijo el ministerio.
MeitY ordena a X que revise las salvaguardias de inteligencia artificial de Grok para evitar contenido obsceno e ilegal
MeitY ordenó a X que llevara a cabo de inmediato una revisión técnica, de procedimiento y de gobernanza integral de Grok, incluido el procesamiento rápido, la generación de resultados, el manejo de imágenes y las barreras de seguridad, para evitar la creación o difusión de contenido que contenga desnudez, sexualización, material sexualmente explícito u otro contenido ilegal.
El ministerio reiteró que el incumplimiento de estas directivas puede generar consecuencias legales estrictas contra la plataforma, sus funcionarios responsables y los usuarios infractores, según la Ley de TI, las Reglas de TI, BNSS, BNSy otras leyes aplicables.
Esto sigue instrucciones anteriores del 29 de diciembre, cuando MeitY pidió a las plataformas de redes sociales que revisaran sus marcos de cumplimiento y actuaran con prontitud contra el contenido obsceno e ilegal, advirtiendo sobre el procesamiento por incumplimiento.
Más temprano en el día, Rajya Sabha La miembro Priyanka Chaturvedi había escrito una carta al ministro de la Unión, Ashwini Vaishnaw, solicitando una intervención urgente sobre los crecientes incidentes de uso indebido de la aplicación de inteligencia artificial Grok para crear fotografías vulgares de mujeres y publicarlas en las redes sociales.
(Con entradas PTI)
