Desde luego, el objetivo es engañar y espiar a los usuarios reales.
Las agencias de inteligencia se han estado infiltrando en foros públicos online por décadas, pero ahora la inteligencia artificial promete llevar esa práctica a otro nivel. Crédito: MysteryPlanet.com.ar.
El Pentágono, a través del Comando de Operaciones Especiales de los Estados Unidos (SOCOM), ha mostrado interés en desarrollar una tecnología que permita la creación de usuarios falsos en Internet tan convincentes que ni las personas ni los sistemas de detección automatizados puedan identificarlos como falsos. Este desarrollo ha sido revelado en un documento de adquisiciones del Departamento de Defensa revisado por The Intercept.
Objetivo de la tecnología
El documento, de 76 páginas, describe un conjunto de tecnologías avanzadas que el Comando de Operaciones Especiales Conjuntas (JSOC) desea implementar en misiones militares clandestinas. Según el documento, las Fuerzas de Operaciones Especiales están interesadas en tecnologías que puedan generar personas falsas creíbles —como StyleGAN— para utilizar en plataformas de redes sociales, sitios web de contenido social y otros medios en línea.
La meta es crear perfiles de usuarios en línea que «parezcan ser individuos únicos, reconocibles como humanos, pero que no existan en el mundo real». Cada perfil contaría con múltiples expresiones faciales y fotografías de calidad similar a las identificaciones oficiales del gobierno. Además de imágenes fijas, la tecnología también debe generar videos con fondo y audio falso, y la capacidad de producir selfies en video con fondos virtuales indetectables por los algoritmos de las redes sociales.
https://mega.nz/file/WxExSDpK#dpZFEKo-mXin4UTLA-Tr48bv7SJ-WvlO4-woqZupeLI
Riesgos asociados a la proliferación de deepfakes
El desarrollo y uso de deepfakes, un término que se refiere a datos audiovisuales sintetizados para que parezcan grabaciones genuinas, ha sido motivo de preocupación para la seguridad nacional de Estados Unidos. En septiembre pasado, la NSA, el FBI y la Agencia de Seguridad de Infraestructura y Ciberseguridad (CISA) emitieron un comunicado conjunto advirtiendo que la «media sintética, como los deepfakes, presenta un desafío creciente para los usuarios de la tecnología moderna». Estas agencias clasificaron la proliferación global de deepfakes como un «riesgo prioritario» para 2023.
En un informe de este año, funcionarios de inteligencia de Estados Unidos advirtieron que la capacidad de los adversarios extranjeros para difundir contenido generado por IA sin ser detectados representa un «acelerador de influencia maligna» utilizado por países como Rusia, China e Irán. Esto refuerza la preocupación sobre el uso de deepfakes en campañas de desinformación para polarizar sociedades y aumentar tensiones.
Consecuencias de la adopción de esta tecnología
El uso de deepfakes por parte de Estados Unidos podría desencadenar una proliferación aún mayor de esta tecnología a nivel global, normalizando su uso entre gobiernos de todo el mundo. Heidy Khlaaf, científica jefa de inteligencia artificial en el AI Now Institute, expresó su preocupación al señalar que «no hay casos de uso legítimos» para esta tecnología, que tiene una naturaleza puramente engañosa. La adopción de deepfakes por parte de Estados Unidos podría incitar a otros gobiernos a hacer lo mismo, lo que complicaría aún más la distinción entre la verdad y la ficción en la esfera geopolítica.
Tanto Rusia como China ya han sido sorprendidos utilizando avatares y videos de esta naturaleza en sus esfuerzos propagandísticos en línea. En respuesta, el Departamento de Estado de EE.UU. anunció un marco internacional para contrarrestar la manipulación de información por parte de estados extranjeros, calificando esta práctica como una amenaza para la seguridad nacional.
Hipocresía y pérdida de confianza en el gobierno
El uso de esta tecnología por parte de Estados Unidos presenta una contradicción, ya que el propio gobierno ha condenado la utilización de deepfakes por parte de adversarios geopolíticos. Daniel Byman, profesor de estudios de seguridad en la Universidad de Georgetown, señaló que existe una tensión fundamental dentro del gobierno, donde una parte se esfuerza por mantener la confianza pública mediante la divulgación de información veraz, mientras que otras ramas, como las fuerzas de operaciones especiales, están encargadas de realizar acciones de engaño.
Esta dualidad podría llevar a que el gobierno estadounidense sea percibido como hipócrita, lo que podría afectar la confianza del público en la información que emite.
Fuente: The Intercept. Edición: MP.
El Pentágono busca utilizar IA para crear usuarios falsos en Internet