Lo llaman Sentient, un nombre apropiado para un programa de inteligencia artificial que ha sido producido por las agencias de inteligencia de EE. UU. Desde 2010 y que pronto podría llegar a nuestras vidas de una manera que solo podemos imaginar.
Pero, ¿se puede confiar en el llamado «cerebro artificial» en asuntos de vida o muerte? ¿Se puede confiar en mantener segura la información vital?
Como era de esperar, pocos en las agencias militares o de inteligencia estaban dispuestos a discutir Sentient, aunque la subdirectora de asuntos públicos de la Oficina de Reconocimiento Nacional, Karen Furgerson , dijo lo siguiente :
“La práctica estándar de la NRO y la Comunidad de Inteligencia es NO divulgar fuentes y métodos sensibles, ya que dicha divulgación introduce un alto riesgo de que las naciones adversarias los contrarresten. Tal pérdida daña a nuestra nación y sus aliados; Disminuye la ventaja de la información estadounidense y la seguridad nacional. Por esas razones, los detalles sobre Sentient permanecen clasificados y lo que podemos decir al respecto es limitado «.
Pero si bien la falta de detalles puede llevarlo a descartar a Sentient como irrelevante o incluso benigno, es cuando comienza a considerar las implicaciones más grandes que tal sistema se convierte no solo en un arma de guerra, sino en algo que se puede usar contra cualquiera de nosotros en Las manos equivocadas.
The Verge señala :
“Los documentos publicados no dicen explícitamente qué tipo de fuentes de datos puede enviar Sentient, pero está claro que el programa está interesado en todo tipo de información.
“El analista retirado de la CIA, Allen Thomson, va más allá. ‘Según tengo entendido, la respuesta deseada, y aspiracional, es’ todo ‘. Además de las imágenes, eso podría incluir datos financieros, información meteorológica, estadísticas de envío, información de búsquedas de Google, registros de compras farmacéuticas y más, dice «.
Considere BlackSky, una compañía que posee satélites que orbitan sobre la Tierra y recopilan información de todo el mundo. BlackSky es una empresa privada y puede compartir sus datos con cualquier persona que pague el precio correcto:
“BlackSky toma datos de 25 satélites, más de 40,000 fuentes de noticias, 100 millones de dispositivos móviles, 70,000 barcos y aviones, ocho redes sociales, 5,000 sensores ambientales y miles de dispositivos de Internet de las cosas. En el futuro, planea tener hasta 60 de sus propios satélites de observación de la Tierra. Toda esa información va a diferentes canales de procesamiento según su tipo. De una noticia, BlackSky puede extraer personas, lugares, organizaciones y palabras clave. A partir de una imagen, puede determinar qué edificios parecen dañados después de un terremoto «.
Otra pregunta que debemos hacernos: ¿un programa de IA como Sentient tiene sesgos inherentes, basados en la persona o personas que lo crearon? Si es así, podría ver injustamente la palabra «bomba» y comenzar a apuntar a personas de origen del Medio Oriente a pesar de que la bomba en cuestión ha sido creada por un grupo terrorista supremacista blanco. Eso solo debería darnos dudas.
Idealmente, podríamos confiar en nuestro gobierno y empresas privadas para garantizar que nuestra información personal se mantenga en secreto, pero como hemos visto repetidamente en las redes sociales y sitios de comercio, ese simplemente no es el caso. En todo caso, muchos de ellos toman esos datos y los revenden para obtener ganancias adicionales, incluso si no revelaron completamente sus intenciones.
Por ahora, Sentient permanece envuelto en un secreto casi absoluto. Pero eso solo puede ser motivo suficiente para preocuparse por cómo se utilizará en última instancia.
https://www.ancient-code.com/us-intelligence-agencies-build-an-artificial-brain-to-be-used-on-the-battlefield-a-step-too-far/