miércoles 7 de enero de 2026 – 16:07 WIB
Jacarta – El Ministerio de Comunicaciones y Digital (Kemkomdigi) está dando seguimiento a las acusaciones de uso indebido de funciones de inteligencia artificial. Grok IA en la plataforma incógnita que se utiliza para producir y distribuir contenido inmoral, incluida la manipulación de fotografías personales confidenciales sin el consentimiento del propietario.
Lea también:
6 aplicaciones Eagle Eye deshabilitadas, Alexander Patience: el resto es el proceso de verificación de Google
Director General de Supervisión del Espacio Digital, Kemkomdigi Alejandro Sabar dijo que los resultados de búsqueda iniciales muestran que Grok AI aún no tiene regulaciones explícitas y adecuadas para prevenir la producción y distribución de contenido pornográfico basado en fotografías reales de ciudadanos indonesios.
Esta condición tiene el potencial de violar el derecho a la privacidad y el derecho a la propia imagen, especialmente cuando la fotografía de alguien es manipulada o distribuida sin consentimiento legal.
«Los hallazgos preliminares muestran que no hay regulaciones específicas en Grok AI para impedir el uso de esta tecnología en la creación y distribución de contenido pornográfico personal basado en fotografías. Esto corre el riesgo de causar graves violaciones de la privacidad de los ciudadanos y los derechos de autoimagen», dijo en Yakarta, el miércoles 7 de enero de 2026.
Considera que la manipulación digital de fotografías personales no es sólo una cuestión de decencia, sino una forma de usurpar el control de un individuo sobre su identidad visual que puede causar daños psicológicos, sociales y reputacionales.
Alexander Sabar enfatizó que el Ministerio de Comunicaciones y Tecnología se encuentra coordinando con los Operadores de Sistemas Electrónicos (PSE) para asegurar la disponibilidad de mecanismos de protección efectivos.
Estas medidas incluyen el fortalecimiento del sistema de moderación de contenidos, la prevención de la creación de deepfakes inmorales, así como procedimientos para gestionar rápidamente las denuncias de violaciones de la privacidad y los derechos de la propia imagen.
«Cada PSE está obligada a garantizar que la tecnología que proporciona no se convierta en un medio para violar la privacidad, la explotación sexual o dañar la dignidad de alguien», subrayó.
También recordó que la obligación de cumplir con las leyes y reglamentos indonesios es inherente a todas las PSE que operan en territorio indonesio. Si se descubre un incumplimiento o un comportamiento poco cooperativo, Kemkomdigi puede imponer sanciones administrativas hasta la terminación del acceso a los servicios de Grok AI y a la plataforma X.
Kemkomdigi enfatizó que los proveedores y usuarios de servicios de inteligencia artificial (IA) que produzcan y/o distribuyan contenido pornográfico o manipulen imágenes personales sin derechos pueden estar sujetos a sanciones administrativas y/o penales de acuerdo con las disposiciones legales aplicables.
Página siguiente
Alexander Sabar explicó que desde la promulgación de la Ley Número 1 de 2023 relativa al Código Penal (KUHP) el 2 de enero de 2026, el contenido pornográfico está regulado, entre otros, en el artículo 172 y el artículo 407.
