Una encuesta de investigadores de inteligencia artificial encontró que más de un tercio de ellos temen que la IA pueda causar una catástrofe global con el impacto potencial de una guerra nuclear.

La inteligencia artificial ya ha cambiado nuestro mundo, pero muchos expertos temen que pueda acabar destruyéndolo.

Más de un tercio de los investigadores de IA de todo el mundo dicen que las decisiones erróneas tomadas por sistemas de inteligencia artificial podrían causar una catástrofe a la par de una guerra nuclear total en este siglo.

Una encuesta de expertos en IA, realizada por Julian Michael en el Centro de Ciencia de Datos de la Universidad de Nueva York, reveló que el 36% de ellos pensaba que la IA podría desencadenar un gran desastre antes del año 2030.

La IA ya se ha abierto camino en casi todos nuestros hogares y en muchos de nuestros automóviles.

Los dispositivos como Alexa, los teléfonos inteligentes, los drones y los autos parcial o totalmente autónomos funcionan con IA. El software de reconocimiento facial ha influido dramáticamente en la aplicación de la ley.

También encontramos IA simple en muchos centros de llamadas, y Google está trabajando en un asistente de IA que puede hacer llamadas telefónicas en su nombre, sonando como usted en los gestos y en el tono básico.

Lo más dramático de todo, por supuesto, es que la IA está presente en muchos sistemas militares de vanguardia. Pronto se utilizarán «enjambres» a gran escala de drones armados controlados por IA para atacar bases o barcos tan rápido que ningún defensor humano podrá luchar contra ellos, advirtió un alto experto militar de EE. UU.

El general John Murray, jefe del Comando de Futuros del Ejército de EE. UU., comentó: «Cuando te defiendes contra un enjambre de drones, es posible que se requiera que un humano tome esa primera decisión, pero no estoy seguro de que ningún humano pueda seguir el ritmo».

Pero, ¿qué sucede cuando los sistemas fallan? Incluso una simple llamada telefónica puede tener consecuencias catastróficas.

“Ya ha habido varios casos en los que la IA ha causado daño”, dijo el experto en IA Matthew Kershaw, “y a medida que se generaliza, el potencial de problemas puede aumentar”.

Matthew es vicepresidente de marketing y crecimiento de D-ID, una empresa que utiliza la tecnología Deepfake para crear videos instantáneos a partir de imágenes y textos simples.

La tecnología es utilizada principalmente por líderes empresariales para crear presentaciones de aspecto profesional sin la necesidad de una configuración de estudio compleja, pero las mismas capacidades avanzadas de IA podrían usarse para difundir desinformación en todo el mundo, causando caos político.

Deepfakes ya comenzó la Tercera Guerra Mundial en línea y son responsables de la «corrosión de la realidad», dijo la experta Nina Schick.

Nina dice que la guerra «será cada vez menos sobre ejércitos que cruzan fronteras».

«Aunque», agrega, los barcos, los aviones y los tanques seguirán luchando, pero estarán «más impulsados ​​​​por la IA».

Ella predice: “Habrá más uso de drones autónomos y robots asesinos y… la parte que más me interesa, que veo en el libro, es la guerra de información.

“La guerra se tratará de controlar las narrativas, influir en la opinión pública de una forma u otra; lo que está sucediendo ahora es que la naturaleza de la guerra está cambiando tan rápidamente que no nos hemos dado cuenta”.

En octubre de 2018, Zeng Yi, un alto ejecutivo de la firma de defensa china Norinco, pronunció un discurso en el que dijo que «en los futuros campos de batalla, no habrá personas peleando», y que el uso de armas autónomas letales en la guerra es » inevitable»

Lo que suena como una buena noticia, hasta que recordamos con qué frecuencia las computadoras pueden darnos un resultado que no queríamos.

Y la amenaza de un arma de IA deshonesta no tiene por qué provenir de un estado o nación. El ex experto en armas de inteligencia artificial del Pentágono, Paul Scharre, advierte que alguien podría construir pronto «un arma simple y autónoma en su garaje».

Él dice que el potencial está casi aquí: ”Estas herramientas están disponibles para su descarga gratuita. Puedes descargarlos en línea»

«Me tomó alrededor de tres minutos en línea encontrar todas las herramientas gratuitas que necesitaría para descargar esta tecnología y hacer que suceda».

Pero Matthew Kershaw dice que la IA es solo una herramienta y, como cualquier herramienta, puede usarse para bien o para mal, dependiendo de cómo esté programada.

“Un lápiz puede escribir un poema o resolver una fórmula matemática”, señala, “pero en las manos de John Wick puede ser un arma letal.

“Aún así, no prohibimos los lápices, nos aseguramos de que se usen de manera responsable”

https://www.extranotix.com/2022/10/los-principales-expertos-en.html