Jueves 8 de enero de 2026 – 08:54 WIB
Jacarta – Dirtipidsiber Bareskrim policia nacionalEl general de brigada Himawan Bayu Aji habló sobre el presunto uso indebido de funciones de inteligencia artificial Grok AI en la plataforma X, que se utiliza para la producción y la implementación contenido inmoralincluida la manipulación de fotografías personales.
Lea también:
Prabowo otorga premios a varios miembros de la policía nacional por su apoyo a la seguridad alimentaria nacional, aquí está la lista
Himawan explicó que si se descubre que alguien está manipulando datos electrónicos de otras personas sin su consentimiento, puede ser objeto de cargos penales.
«Cuando hablamos de IA, en ese momento se puede aclarar que se trata de manipulación de datos electrónicos, por lo que se convertirá en una cuestión penal», dijo Himawan a los periodistas, citado el jueves 8 de enero de 2026.
Mientras tanto, Himawan dijo que su partido está investigando actualmente el desarrollo de la IA, incluida la cuestión de los deepfakes que utilizan IA.
Lea también:
¡Preocupante! El extremismo apunta a niños de 11 a 18 años, 70 personas atendidas por Densus 88
«Así que el desarrollo de la tecnología ahora está conduciendo a la inteligencia artificial, sí, eso incluye los deepfakes que utilizan IA. Por lo tanto, actualmente estamos llevando a cabo investigaciones en esa dirección», explicó Himawan.
«Incluyendo que ayer investigamos la IA relacionada con el sitio web de billetes electrónicos, eso es lo que circula mucho actualmente y también estamos llevando a cabo una investigación. Así que ese es nuestro objetivo en Ditpidsiber», continuó.
Para su información, el Ministerio de Comunicaciones y Digital (Kemkomdigi) está dando seguimiento a las acusaciones de uso indebido de la función de inteligencia artificial Grok AI en la plataforma X, que se utilizó para producir y difundir contenido inmoral, incluida la manipulación de fotografías personales confidenciales sin el consentimiento del propietario.
El Director General de Monitoreo del Espacio Digital, Alexander Sabar, dijo que los resultados de búsqueda iniciales mostraron que Grok AI no tenía regulaciones explícitas y adecuadas para impedir la producción y distribución de contenido pornográfico basado en fotografías reales de ciudadanos indonesios.
Esta condición tiene el potencial de violar el derecho a la privacidad y el derecho a la propia imagen ( ), especialmente cuando la fotografía de una persona es manipulada o distribuida sin consentimiento legal.
«Los hallazgos preliminares muestran que no existen regulaciones específicas en Grok AI para impedir el uso de esta tecnología en la creación y distribución de contenido pornográfico basado en fotografías personales. Esto corre el riesgo de causar graves violaciones de la privacidad y los derechos de la propia imagen de los ciudadanos», dijo Alexander en Yakarta.
Mientras tanto, Alexander considera que la manipulación digital de fotografías personales no es sólo una cuestión de decencia, sino más bien una forma de usurpar el control de los individuos sobre su identidad visual, lo que puede causar daños psicológicos, sociales y reputacionales.
Página siguiente
Actualmente, el Ministerio de Comunicaciones y Tecnologías se encuentra coordinando con los Operadores de Sistemas Electrónicos (PSE) para asegurar la disponibilidad de mecanismos de protección efectivos. Estas medidas incluyen el fortalecimiento del sistema de moderación de contenidos, la prevención de la creación de deepfakes inmorales, así como procedimientos para gestionar rápidamente las denuncias de violaciones de la privacidad y los derechos de la propia imagen.
