El gobernador de California firmó la semana pasada dos leyes, bautizadas como AB 730 y AB 602, y relacionadas con la creciente moda de los deepfakes (las imágenes, vídeos y audios falsificados mediante el uso de inteligencia artificial) .

La primera de esas normativas prohíbe difundir vídeos manipulados para desacreditar a candidatos políticos durante los 60 días previos a unas elecciones, mientras que la segunda otorga a los californianos el derecho a demandar a todo aquel que difunda sin consentimiento deepfakes pornográficos basados en su imagen.

Sin embargo, la gran pregunta ahora es ¿cómo van a poder aplicar de forma efectiva ambas leyes, cuando las grandes plataformas de Internet se están viendo superadas en esa tarea? Zuckerberg, CEO de Facebook, admitió el pasado mes de junio que los sistemas de su compañía eran demasiado lentos para detectar y eliminar los deepfakes de vídeo.

 

Unos meses antes, la plataforma para adultos Pornhub prohibía subir deepfakes a su plataforma a comienzos de este año y, efectivamente, no sale ningún resultado cuando se busca por la palabra «deepfake»… pero no hace falta una gran inventiva para acceder, pese a ello, a numerosas falsificaciones porno en dicho sitio web.

«El hecho es que tratar de protegerse de Internet y su depravación es básicamente una causa perdida«, según afirmaba Scarlett Johansson a comienzos de este año, en referencia a la proliferación de los deepfakes de carácter pornográfico con los rostros de famosas. La estrella de ‘Lost in Traslation’ o ‘Los Vengadores’ explicaba así su postura:

«Nada puede impedir que alguien corte y pegue mi imagen o la de otra persona en otro cuerpo y haga que se vea tan realista como desee».

«Creo que es algo inútil, legalmente, sobre todo porque Internet es un enorme agujero de gusano de oscuridad que se devora a sí mismo».

¿Debemos preocuparnos por los deepfakes políticos?

Un reciente informe elaborado por Deeptrace muestra que en verano la cantidad de deepfakes de vídeo disponibles online se había duplicado con respecto a diciembre de 2018 (14.698 contra 7.964), pero ese aumento se debió fundamentalmente a la pornografía, no a vídeos de carácter político. De hecho, el porcentaje de deepfakes pornográficos asciendo hasta el 96%, en su mayor parte «protagonizados» por famosas del ámbito de la música y la actuación.

Sin embargo, la gran preocupación de los legisladores estadounidenses parece girar en torno a las próximas elecciones, y a los fantasmas de una manipulación electoral que pueda influir de forma decisiva en los resultados de las mismas.

Y aún está fresco el recuerdo del vídeo viral manipulado de Nancy Pelosi, la presidenta de la Cámara de Representantes, en el que una sencilla modificación del mismo permitió dar entender (falsamente) que esta veterana referente del Partido Demócrata estaba había dado una rueda de prensa ‘perjudicada’ por alguna sustancia.

Sin embargo, el vídeo de Pelosi ni siquiera era un ‘deepfake’, pues no hubo ninguna inteligencia artificial implicada en el proceso de manipulación; era una manipulación digital tradicional, lo que ahora empiezan a denominar «cheap fakes» (‘falsificaciones baratas’).

Aun así, Marc Berman, el legislador estatal que presentó la propuesta AB 730, explica que actuó motivado por su convicción de que los deepfakes constituyen «una nueva y poderosa tecnología que puede serenarbolada para sembrar desinformación entre el electorado, haciendo extremadamente difícil distinguir los eventos y acciones reales de la ficción y la fantasía».

 

Henry Ajder, de Deeptrace, señala el que podría ser el modo más sencillo de que los deepfakes influyan en política: «proporcionan una negación pausible» a aquellos políticos que son sorprendidos y grabados realizando algo ilegal o vergonzoso. Así, en lugar de imputar hechos falsos, permitirían exculpar acusaciones verdaderas.

¿De qué sirven estas leyes?

Jane Kirtley, especialista en ética de los medios de comunicación en la Escuela Hubbard, advierte que existen impedimentos legales: debido a las garantías estadounidenses a la libertad de expresión, podría resultar más sencillo impedir la difusión de vídeos manipulados a través de denuncias por cuestiones de copyright que a través de las nuevas leyes.

«El deseo de proteger a la gente del contenido engañoso en el período previo a una elección es muy fuerte y muy comprensible, pero soy escéptica sobre si van a ser capaces de hacer cumplir esta ley».

Paul Bischoff, de Comparitech.com, advierte que prohibir la producción de deepfakes, aunque sea de forma limitada en el tiempo, es una opción poco práctica, y afirma que estamos ante «una tecnología que no va a desaparecer, por lo que debemos prepararnos para un mundo donde las falsificaciones sean comunes». ¿La mejor solución para él? Concienciar y fomentar un saludable escepticismo entre el público.

Vía | The Guardian & Wired & Forbes

https://www.xataka.com/inteligencia-artificial/96-deepfakes-online-porno-preocupan-caracter-electoral-ahora-california-ha-legislado-ambos