California El Fiscal General Rob Bonta ha iniciado una investigación sobre xAI, la compañía detrás del modelo de inteligencia artificial Grok, por preocupaciones de que la herramienta se esté utilizando para generar y hacer circular en línea material sexualmente explícito no consensuado.
La investigación sigue a informes de que Grok ha sido utilizado para crear imágenes falsas que retratan a mujeres y niñas en escenarios sexualmente explícitos sin su consentimiento, contenido que supuestamente se ha utilizado para acosar a personas en Internet, incluso en la plataforma de redes sociales X.
«La avalancha de informes que detallan el material no consensuado y sexualmente explícito que xAI ha producido y publicado en línea en las últimas semanas es impactante. Este material, que muestra a mujeres y niños desnudos y en situaciones sexualmente explícitas, se ha utilizado para acosar a personas en Internet. Insto a xAI a tomar medidas inmediatas para garantizar que esto no vaya más allá. Tenemos tolerancia cero para la creación y difusión basada en IA de imágenes íntimas no consensuadas o de material de abuso sexual infantil», dijo Bonta.
«Hoy, mi oficina anuncia formalmente una investigación sobre xAI para determinar si xAI violó la ley y cómo. Como principal funcionario policial de California encargado de proteger a nuestros residentes, estoy profundamente preocupado por este desarrollo en la IA y utilizaré todas las herramientas a mi disposición para mantener seguros a los residentes de California», añadió.
El Fiscal General Bonta reiteró su preocupación por los riesgos más amplios que plantea inteligencia artificial herramientas y dijo que su oficina sigue centrada en la seguridad de la IA, particularmente en la protección infantil. Anteriormente apoyó la legislación estatal para proteger a los niños de los chatbots complementarios de IA y se ha comprometido directamente con empresas de IA en cuestiones de seguridad.
Recientemente, Indonesia se convirtió en el primer país en suspender por completo el acceso a Grok, el chatbot de inteligencia artificial desarrollado por xAI, la empresa de Elon Musk, en medio de crecientes preocupaciones globales sobre el uso indebido de la IA para crear imágenes sexualizadas sin consentimiento, informó CBS News.
En India, el Ministerio de Electrónica y Tecnología de la Información (MeitY) también tomó medidas, escribiendo a X (anteriormente Twitter) sobre lo que describió como un incumplimiento de las obligaciones legales de debida diligencia bajo la Ley de Tecnología de la Información de 2000. El ministerio solicitó un Informe de acciones tomadas de la plataforma para garantizar medidas inmediatas para prevenir el alojamiento, la generación y la circulación de contenido obsceno y sexualmente explícito a través de herramientas de inteligencia artificial como Grok.
Elon Musk respondió la semana pasada a las críticas en torno a Grok, advirtiendo a los usuarios contra actividades ilegales. Dijo que cualquiera que use el chatbot para «crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal».
Esta historia proviene de un feed sindicado de terceros, agencias. Mid-day no acepta ninguna responsabilidad por la confiabilidad, confiabilidad y datos del texto. Mid-day Management/mid-day.com se reserva el derecho exclusivo de alterar, eliminar o eliminar (sin previo aviso) el contenido a su absoluta discreción por cualquier motivo.
