El experto en inteligencia artificial Dominic Lees dijo que la decisión de Morgan Neville de recrear la voz de Anthony Bourdain con la ayuda de inteligencia artificial en el documental «Roadrunner» era «absolutamente espantoso».
Bourdain se suicidó en 2018.
«Neville quería que fuera como un tributo, casi un elogio. Esta película está llena de buenas intenciones», añadió Lees. «Quería que pareciera que Bourdain estaba hablando desde entre los muertos, al estilo ‘Sunset Boulevard'».
En la película, el artista David Choe lee un correo electrónico que el famoso chef le había escrito poco antes de su muerte, sólo para que la voz de “Bourdain” se haga cargo.
«La audiencia empezó a pensar que algo andaba mal. ¿Quién diablos se graba leyendo un correo electrónico? Neville respondió: ‘Está bien, lo confesaré. Utilicé un clon de voz’. Sin embargo, no había informado a la audiencia de que lo había hecho. Además, dijo a sus críticos: ‘He usado la tecnología en otros tres lugares de esta película y no les diré dónde’”.
Hablando en el aeropuerto internacional de Ji.hlava. En la Conferencia sobre Ética en la Realización de Documentales del Festival de Cine Documental, Lees dijo que el daño a la reputación de Neville fue «muy, muy profundo».
“Personalmente, no puedo ver otro documental de Morgan Neville sin pensar: ‘Me engañaste deliberadamente’. La relación de confianza entre usted, el cineasta, y yo, el público, ha desaparecido por completo”.
Sostuvo que la falta de transparencia en el uso de la IA puede «destrozar» la relación con los espectadores. Otra cuestión es el consentimiento.
“En medio de la controversia sobre ‘Correcaminos’, Neville reclamado: ‘Yo pregunté [Bourdain’s] ex esposa y ella dijo que eso sería genial. Luego ella respondió: ‘No, no lo hice’. Esto socavó aún más su credibilidad”.
Durante un discurso de apertura en el festival checo, Lees también se dirigió a la productora centrada en la IA, Particle 6, que ya está detrás de la controvertida “actriz de IA”. Tilly NorwoodTambién se centra en el documental histórico.
«Ellos han dicho Tilly Norwood «Sería contratado por agentes de Hollywood y protagonizaría películas, pero también ven los documentales como una parte importante de su negocio futuro, comenzando con reconstrucciones históricas», dijo, mostrando el video de la compañía y describiendo sus esfuerzos como «cómicos».
«Los esclavos en el antiguo Egipto visten toallas blancas brillantes, como si acabaran de salir de una sauna o algo así. Así es como Particle 6 espera atraer a los realizadores de documentales que trabajan en esta área de la televisión y el documental histórico». Muchas empresas esperan que una declaración ética “genere confianza”, dijo, citando a Gennie, que también se especializa en documentación y reconstrucción histórica.
“Tienen sus ‘Mandamientos Gen’, un código de ética público que ‘promueve la precisión histórica, la transparencia, la equidad en la representación y el respeto por la semejanza humana real’. Pero tenemos que ser muy, muy cautelosos con las empresas que exponen su ética en términos de promoción”.
Volviendo al tema de la manipulación de la voz, Lees mencionó el documento de National Geographic “Endurance”, que describe la misión de Ernest Shackleton a la Antártida entre 1914 y 1917. Sus creadores decidieron recrear su voz y agregaron un descargo de responsabilidad en los créditos finales.
«La productora Ruth Johnston tuvo que considerar cuál es su relación con el público. ‘He usado IA en mi película. ¿Qué debo hacer?’ Ella deja muy claro que estas voces han sido recreadas utilizando inteligencia artificial”, dijo Lees, reiterando que “la transparencia será una de las cuestiones éticas centrales absolutas en torno al uso de la IA generativa por parte de los realizadores de documentales”.
Sin embargo, la creación de voces, especialmente en el caso de personajes históricos, puede resultar complicada. El cortometraje de Jan Rehwinkel “La historia no nos enseñará nada”, proyectado en el festival, presenta a Hitler.
«Una vez que hayas creado tu avatar humano de IA o clon de voz falso, es un activo persistente que existirá para siempre. ¿Y quién controla eso? Los realizadores de documentales piensan que no necesitan preocuparse, porque han hecho su película. Pero este es un modelo afinado de la voz de Adolf Hitler que está ahí fuera. Cualquiera puede usarlo. La ética se extiende a la tecnología en su conjunto, no solo a los propios cineastas».
Felix Moeller enfrentó un dilema similar en “Jud Süss 2.0: de la propaganda nazi al antisemitismo en línea”, y finalmente decidió no recrear la voz de Henry Ford.
«Era uno de los hombres más ricos del mundo en las décadas de 1920 y 1930, y un antisemita, lo que establece algunos paralelismos con la actualidad. Se aferró a este documento falso, ‘Los Protocolos de los Sabios de Sión'», explicó Lees.
“Pensaron: ‘¿Sería posible que Henry Ford leyera su propio panfleto antisemita?’ Es absolutamente vil, pero como cineasta, quieres expresar cuán vil era el antisemitismo en Estados Unidos en ese momento. Me lo mostraron y me preocupé por varios motivos. Claramente, un antisemita podría extraer esto y utilizarlo en la propaganda antisemita del siglo XXI”.
Y añadió: «Esto es algo importante que los documentalistas deben considerar. Tengo la oportunidad de utilizar IA generativa, que puede ser una hermosa manera de complementar el impacto creativo de mi película, pero también puedo decidir en cualquier momento que esto no es lo correcto».
Elogiando ejemplos de IA en documentales como «Bienvenidos a Chechenia», donde los deepfakes enmascaraban las identidades de activistas lesbianas y gays que de otro modo podrían haber sido asesinados, señaló: «En la era de la IA, el público es cada vez más consciente de que lo que ven en la pantalla puede no ser auténtico. La autenticidad ha sido un problema dentro del cine documental desde sus inicios, pero ahora tenemos un problema mucho más serio en nuestras manos».
