Desafíos de la singularidad: el mundo a partir de 2045

un artículo de Marta Buces

Hemos oído hablar de la modificación genética, el uso masivo de datos personales, la proliferación de robots, el machine learning, las investigaciones en materia de inteligencias artificiales, todo en cuestión de unos pocos años. ¿Debemos preocuparnos por la creciente introducción de las tecnologías en nuestras vidas?

No debemos tachar de alarmistas a quienes advierten de los peligros. El investigador de machine learning Max Tegmark compara la evolución de las inteligencias artificiales con inventos anteriores como la ingeniería aeroespacial: “Piensa en lo que puede salir mal para asegurarte de que todo sale bien”.

Quizá lo más racional sea asumir que la tecnología no es buena o mala, sino que todo depende del uso que se le dé. Es necesario que el ser humano sea proactivo en lugar de reactivo ante los riesgos que presenta el progresivo desarrollo de la ciencia. Hay desafíos que requieren de nuestra atención y nuestra exigencia ética antes de que sea demasiado tarde. Estos son algunos de ellos:

  1. La mejora genética dividirá a la humanidad
  2. La pérdida de sentido de las religiones
  3. La usurpación del mercado laboral
  4. Los derechos robóticos fundamentales
  5. La explosión económica y el reparto de la riqueza
  6. El riesgo del uso bélico de la IA
  7. Los algoritmos enseñan desigualdades
  8. Los valores como freno a una posible motivación maligna
  9. La necesidad de la incorporación en la agenda política

I. La mejora genética dividirá a la humanidad

Los cambios en el ADN se empezarán a practicar en humanos en unos 25 años. A partir de entonces, será cuestión de tiempo que la humanidad quede dividida en dos grupos entre los que habrá un abismo insalvable. Quienes logren costearse la modificación genética gozarán de una mayor capacidad física e intelectual, e incluso una reproducción perfecta de los patrones comerciales de belleza.

Podríamos entrar así en un camino muy peligroso que ya deberíamos conocer muy bien: la búsqueda del prestigio en una “raza superior”. Este privilegio provocará que aquéllos con una capacidad económica mucho más limitada sean no únicamente pobres, sino también ignorados y obsoletos, condenados a la subordinación, la precariedad y la desestimación social.

Además, la revolución médica traerá consigo el rejuvenecimiento celular y el vencimiento de la muerte. Viviremos cientos de años, lo que provocará inevitablemente que las vidas humanas encuentren alternativas a problemas como la superpoblación o el agotamiento de los recursos. Una solución que lleva años explorándose es la colonización de otros planetas, pero será mejor que dejemos ese tema para otro artículo.

II. La pérdida de sentido de las religiones

Las religiones orientales (budismo, hinduismo, taoísmo) y algunas tribales creen en la reencarnación; las occidentales (judaísmo, catolicismo, islam) en la resurrección o la promesa del paraíso. Todas nacieron, de una manera u otra, para darle un sentido a la muerte, para garantizar que, si se había optado por el bien en vida, todo sería recompensado tras fallecer. Pero cuando la muerte ya no nos limite… ¿sobrevivirán las religiones?

Las creencias han dotado de valores a la sociedad, y han apostado por el bien al prójimo como filosofía. Si desaparecen, el desafío ético es mucho mayor. No habrá razón para que los humanos hicieran el bien más allá de la voluntad y la conciencia individual. Total, nunca vamos a ser recompensados a no ser que sea en vida.

¿Nos alabaremos a nosotros mismos? ¿O estableceremos que una IA ultrapoderosa creada por nosotros es Dios? No tiene desperdicio echarle un vistazo a las tecnorreligiones, que van ya desde una posibilidad a la otra pasando por el ensalzamiento de los robots.

III. La usurpación del mercado laboral

Hablar de avances tecnológicos provoca malestar cuando se menciona el ámbito laboral, la automatización lleva consigo la pérdida de puestos de trabajo. La tecnología ya ha conseguido hacer lo mismo que el ser humano de una manera mucho más eficiente. Sin embargo, esta inquietud no es nueva. En los inicios de la revolución industrial ya se respiraban estas ideas derrotistas, y lo cierto es que surgieron nuevos puestos impulsados por una nueva sociedad. En la actualidad, los niveles de automatización son mucho mayores, e igualmente existen trabajos inimaginables hace 50 años.

Bostrom menciona la posibilidad de que en el peor escenario, se conserven determinados puestos para humanos cuyo trabajo gozará de prestigio como hoy día se valoran los productos artesanos en un alarde elitista de “comercio justo”.

Aun así, es más que probable que el futuro nos depare una mano de obra casi exclusivamente inorgánica y toda la estructura económica, social, institucional y laboral será puesta en entredicho si es que no se cae por su propio peso. Resulta urgente identificar estos cambios y ahondar en soluciones previas.

IV. La explosión económica y el reparto de la riqueza

La explosión tecnológica llevaría consigo un crecimiento económico (abaratamiento de costes tecnológicos) y podría convertir a la raza humana en su conjunto en la dueña de una riqueza sin precedentes. Tegmark apunta que “si podemos hacer crecer el pastel económico radicalmente con IA, y aun así no podemos descubrir cómo dividir ese pastel para que suponga una mejora para todo el mundo, entonces avergoncémonos”

Pero, ¿cómo será la redistribución de la riqueza en un mundo en el que la vasta mayoría de los humanos no ostentan puestos de trabajo, sino que se han visto sustituidos por inteligencias artificiales de niveles mucho más productivos? Podemos contemplar dos posibles escenarios.

El primero es que sean empresas privadas las que ostenten la propiedad de todos esos robots, datos y máquinas inteligentes y, por tanto, todo el capital mundial que produzcan será obtenido por un minúsculo grupo elitista. Sin embargo, la gran mayoría de personas vivirían en la pobreza extrema sin posibilidad de ganarse la vida. La sociedad quedaría dividida política y socialmente, sumida en una desigualdad sin parangón. Los gobiernos quedarían reducidos a meros testigos del cambio, impotentes.

La otra opción es que sean los estados los propietarios del capital tecnológico y, por tanto, capaces de abastecer a todos sus desempleados ciudadanos. O llenar las arcas mediante nuevos impuestos creados sobre la mano de obra artificial y sus cuatrillonarios dueños y así poder redistribuir la riqueza.

Algunos afirman que dedicaremos nuestro tiempo a recibir una renta básica vitalicia con la que podremos permitirnos viajar, comprar y disfrutar mientras las máquinas lo hacen todo. ¿Será el futuro algo así como un comunismo tecnológico provisto de una paga igualitaria?

V. Los derechos robóticos fundamentales

La subordinación implícita impuesta a los robots por parte del homo sapiens en las leyes de la robótica de Isaac Asimov nos puede parecer una prueba más del humanismo más tecnológico pero, ¿podemos afirmar con certeza que esclavizar a máquinas les provocaría tristeza, hartazgo o algo similar a una conciencia de clase? ¿Se les concedería un estatus moral? ¿Derechos laborales?

Esta visión se asienta en nuestros esquemas mentales sobre los derechos humanos creados por y para los humanos. Probablemente, y a menos que así se programe, las máquinas no padecerán dolor, alegría, tristeza, enfado o cansancio (esto último dependería de la vida de las baterías), aunque sí llegarán a ser conscientes de su existencia y lo que las rodea. ¿No están los derechos humanos asentados en la idea de dignidad? Y ¿no serían dignos quienes, teniendo las mismas cualidades humanas, probablemente mejoradas, serán conscientes, inteligentes y desarrollarán una “personalidad”?

¿Serán consideradas las máquinas futuras ciudadanas? ¿Podrán votar, asumiendo que aún lo hagamos los humanos? ¿Tendrán vacaciones, cotizarán, se jubilarán?

VI. El riesgo del uso bélico de la IA

No podemos ignorar que los avances tecnológicos a lo largo de la historia se han producido en muchas ocasiones en el contexto de una carrera armamentística. La realidad es, como muestra el siguiente gráfico, que la inteligencia artificial se está usando ya para desarrollar armas y mejorar sistemas de defensa. El reconocimiento facial se utiliza actualmente para detectar criminales o enemigos.

Aun así, a principios de este año, EEUU publicaba su compromiso ético en el ámbito de la inteligencia artificial con 10 principios a seguir. El Future of Life Institute, que contaba con Stephen Hawking entre sus miembros más célebres, difundió una carta abierta a los ingenieros de la IA en la que apela al buen uso de la misma. Y la OCDE publicaba el año pasado los principios éticos que deberían seguir los proyectos de inteligencia artificial. Algunos de ellos fueron adoptados también por el G20.

El filósofo alemán Thomas Metzinguer, parte de la comisión de expertos de Artificial Intelligence for Europe, logró que se incluyeran los sistemas de armas letales autónomos como un desafío ético. Además, la opinión pública se agrupa en movimientos como StopKillingRobots para exigir una utilización pacífica de la tecnología.

VII. Los algoritmos enseñan desigualdades

Los datos no sólo reproducen los fallos humanos, sino que están basados en esquemas mentales preconcebidos que se traducen a algoritmos. La IA está creada a nuestra imagen y semejanza, funciona asimilando esta información sesgada y en muchos casos reproduciendo una realidad distorsionada.

Cuenta el conferenciante Marc Vidal en uno de sus posts que las traducciones realizadas en la actualidad por inteligencia artificial usan el masculino por defecto. Esto no es una acción aleatoria la máquina, sino que forma parte de una cultura en que lo normalizado es el hombre. Así se lo ha transmitido quien ha creado la IA, y así lo ha absorbido ésta.

En 2016, la bot que Microsoft introdujo en el mundo digital de Twitter para que aprendiera, usaba el método del mapeo de palabras, gracias al cual asimila construcciones de frases y significados. Acabó por retirarse del mercado (al día siguiente) por comentarios violentos, racistas y machistas producto de la influencia de otros usuarios.

En palabras de Bowman, profesor asistente del proyecto de IA SuperGLUE: “Los modelos exitosos podrían estar explotando patrones estadísticos en sus conjuntos de datos subyacentes, es probable que muestren sesgos dañinos, y cuando demuestran un desempeño mejor que el humano, pueden estar haciendo esto de manera desigual, mostrando un buen desempeño en algunas tareas y razonamiento defectuoso o inhumano en otras.”

¿Estamos asegurándonos de formar equipos inclusivos de programadores que sean conscientes de los estereotipos y la importancia de aplicar métodos justos de aprendizaje? ¿Incorporamos en esos equipos algo más que programadores, por ejemplo, asesores capaces de añadir contexto y autocrítica sobre los algoritmos?

Las máquinas reproducen los sesgos tanto como su creador. Si continúa siendo así, este aprendizaje sin revisión ética perpetuará estereotipos y desigualdades actuales en un mundo futuro asentado en matemáticas insensibles y patrones específicos, datos sin contexto y filtros basados en probabilidades. La investigadora afroamericana Joy Buolamwini creó la Algorithm Justice League tras percatarse de que el reconocimiento facial únicamente la reconocía si llevaba una máscara blanca. Albert Einstein dijo ya en el siglo pasado: «¡Triste época la nuestra! Es más fácil desintegrar un átomo que un prejuicio».

VIII. Los valores como freno a una posible motivación maligna

Si no estamos reduciendo los sesgos humanos, ¿cómo inculcamos valores a una máquina? Esto reduciría la posibilidad de que usara su capacidad e inteligencia con un fin malévolo.

El director del Instituto del Futuro de la Humanidad Nick Bostrom menciona dos posibilidades al tratar con una IA avanzada: el control de la capacidad y la inducción a la motivación. La limitación de la capacidad física o intelectual de una IA resulta improbable, puesto que será creada para ser inteligente, consciente y capaz de realizar tareas inimaginables. Con estas características podría no permitirlo o podría, en el mejor de los casos, hacer uso de la manipulación.

La inducción a la motivación no es una tarea mucho más fácil, pero Bostrom considera que podría resultar más eficaz. La motivación es el objetivo final de una IA, lo que la convertirá en una conciencia dócil dispuesta a ayudar y cooperar con el ser humano, su creador, o la que hará que desaparezcamos de la faz de la Tierra por una determinación destructiva.

Tegmark apunta que la enseñanza de valores es indispensable no porque la amenaza sea la malicia, como en las películas de Hollywood, sino la competencia. Sus metas, afirma, serán muy distintas de las nuestras, y menciona la extinción del rinoceronte negro como ejemplo: no sucedió porque les odiáramos, sino porque éramos más inteligentes y nuestros objetivos no estaban alineados con los suyos. “Asegurémonos de que no nos colocamos en la posición de esos rinocerontes”.

Resulta indispensable comenzar a investigar cómo transmitir ideas tan abstractas como el bien común, la ética, el sufrimiento o la felicidad. No podemos olvidar que debemos averiguar cómo explicar estas ideas, cómo transformarlas en un código que sea entendible por la IA, y cómo lo interpretará ésta.

IX. La necesidad de la incorporación en la agenda política

En cuanto a la incorporación de la IA en la política, el empresario japonés y experto en IA Tetsuzo Matsumoto afirma que es la salvación: «El ser humano simplemente no es apto para la política, tiene su ego, deseos, es impredecible e inestable. Con la IA se puede lograr la razón pura: cómo deberían ser las cosas”.

La realidad es que tecnología ya forma parte de nuestro día a día, pero el futuro va a estar completamente gobernado por ella. Por este motivo, debemos exigir que se incluya en el debate político. Parece ser que desde las instituciones no terminan de entender qué está ocurriendo, pero es necesario abordar desde la modificación genética hasta la creación y propiedad de posibles inteligencias artificiales avanzadas.

Aun tratándose de un cambio tan radical, las investigaciones, los avances y la comercialización de la IA se están desarrollando, en su mayoría, por empresas tecnológicas fuera de la esfera política. El liderazgo privado supone dos problemas: la persecución de beneficios económicos suele ignorar los riesgos y actuar al margen de las decisiones democráticas.

Por todos los motivos mencionados anteriormente, resulta esencial cooperar en compromisos éticos para salvaguardar la supervivencia del ser humano. Debemos exigir que la tecnología se desarrolle pero siempre siendo conscientes de los peligros que conlleva. Como mencionaba al principio del artículo, la tecnología, la ciencia, la política no son ni buenas ni malas. Son lo que exigimos que sean.

Para concluir, me gustaría citar de nuevo a Tegmark, quien afirma que los biólogos han logrado prohibir las armas biológicas, “pero los físicos fallamos: las armas atómicas siguen en los arsenales. Los investigadores de la IA quieren ser como los biólogos, y pasar a la historia como los que mejoraron el mundo”.

Que así sea.

https://vaventura.com/ven/desafios-la-singularidad-mundo-partir-2045/

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.