Hemos oído hablar de la modificación genética, el uso masivo de datos personales, la proliferación de robots, el machine learning, las investigaciones en materia de inteligencias artificiales, todo en cuestión de unos pocos años. ¿Debemos preocuparnos por la creciente introducción de las tecnologías en nuestras vidas?

No debemos tachar de alarmistas a quienes advierten de los peligros. El investigador de machine learning Max Tegmark compara la evolución de las inteligencias artificiales con inventos anteriores como la ingeniería aeroespacial: “Piensa en lo que puede salir mal para asegurarte de que todo sale bien”.

Quizá lo más racional sea asumir que la tecnología no es buena o mala, sino que todo depende del uso que se le dé. Es necesario que el ser humano sea proactivo en lugar de reactivo ante los riesgos que presenta el progresivo desarrollo de la ciencia. Hay desafíos que requieren de nuestra atención y nuestra exigencia ética antes de que sea demasiado tarde. Estos son algunos de ellos:

1. La mejora genética dividirá a la humanidad
2. La pérdida de sentido de las religiones
3. La usurpación del mercado laboral
4. Los derechos robóticos fundamentales
5. La explosión económica y el reparto de la riqueza
6. El riesgo del uso bélico de la IA
7. Los algoritmos enseñan desigualdades
8. Los valores como freno a una posible motivación maligna
9. La necesidad de la incorporación en la agenda política

I. La mejora genética dividirá a la humanidad

Los cambios en el ADN se empezarán a practicar en humanos en unos 25 años. A partir de entonces, será cuestión de tiempo que la humanidad quede dividida en dos grupos entre los que habrá un abismo insalvable. Quienes logren costearse la modificación genética gozarán de una mayor capacidad física e intelectual, e incluso una reproducción perfecta de los patrones comerciales de belleza.

Podríamos entrar así en un camino muy peligroso que ya deberíamos conocer muy bien: la búsqueda del prestigio en una “raza superior”. Este privilegio provocará que aquéllos con una capacidad económica mucho más limitada sean no únicamente pobres, sino también ignorados y obsoletos, condenados a la subordinación, la precariedad y la desestimación social.

Además, la revolución médica traerá consigo el rejuvenecimiento celular y el vencimiento de la muerte. Viviremos cientos de años, lo que provocará inevitablemente que las vidas humanas encuentren alternativas a problemas como la superpoblación o el agotamiento de los recursos. Una solución que lleva años explorándose es la colonización de otros planetas, pero será mejor que dejemos ese tema para otro artículo.

II. La pérdida de sentido de las religiones

Las religiones orientales (budismo, hinduismo, taoísmo) y algunas tribales creen en la reencarnación; las occidentales (judaísmo, catolicismo, islam) en la resurrección o la promesa del paraíso. Todas nacieron, de una manera u otra, para darle un sentido a la muerte, para garantizar que, si se había optado por el bien en vida, todo sería recompensado tras fallecer. Pero cuando la muerte ya no nos limite… ¿sobrevivirán las religiones?

Las creencias han dotado de valores a la sociedad, y han apostado por el bien al prójimo como filosofía. Si desaparecen, el desafío ético es mucho mayor. No habrá razón para que los humanos hicieran el bien más allá de la voluntad y la conciencia individual. Total, nunca vamos a ser recompensados a no ser que sea en vida.

¿Nos alabaremos a nosotros mismos? ¿O estableceremos que una IA ultrapoderosa creada por nosotros es Dios? No tiene desperdicio echarle un vistazo a las tecnorreligiones, que van ya desde una posibilidad a la otra pasando por el ensalzamiento de los robots.

III. La usurpación del mercado laboral

Hablar de avances tecnológicos provoca malestar cuando se menciona el ámbito laboral, la automatización lleva consigo la pérdida de puestos de trabajo. La tecnología ya ha conseguido hacer lo mismo que el ser humano de una manera mucho más eficiente. Sin embargo, esta inquietud no es nueva. En los inicios de la revolución industrial ya se respiraban estas ideas derrotistas, y lo cierto es que surgieron nuevos puestos impulsados por una nueva sociedad. En la actualidad, los niveles de automatización son mucho mayores, e igualmente existen trabajos inimaginables hace 50 años.

Bostrom menciona la posibilidad de que en el peor escenario, se conserven determinados puestos para humanos cuyo trabajo gozará de prestigio como hoy día se valoran los productos artesanos en un alarde elitista de “comercio justo”.

Aun así, es más que probable que el futuro nos depare una mano de obra casi exclusivamente inorgánica y toda la estructura económica, social, institucional y laboral será puesta en entredicho si es que no se cae por su propio peso. Resulta urgente identificar estos cambios y ahondar en soluciones previas.

IV. La explosión económica y el reparto de la riqueza

La explosión tecnológica llevaría consigo un crecimiento económico (abaratamiento de costes tecnológicos) y podría convertir a la raza humana en su conjunto en la dueña de una riqueza sin precedentes. Tegmark apunta que “si podemos hacer crecer el pastel económico radicalmente con IA, y aun así no podemos descubrir cómo dividir ese pastel para que suponga una mejora para todo el mundo, entonces avergoncémonos”

Pero, ¿cómo será la redistribución de la riqueza en un mundo en el que la vasta mayoría de los humanos no ostentan puestos de trabajo, sino que se han visto sustituidos por inteligencias artificiales de niveles mucho más productivos? Podemos contemplar dos posibles escenarios.

El primero es que sean empresas privadas las que ostenten la propiedad de todos esos robots, datos y máquinas inteligentes y, por tanto, todo el capital mundial que produzcan será obtenido por un minúsculo grupo elitista. Sin embargo, la gran mayoría de personas vivirían en la pobreza extrema sin posibilidad de ganarse la vida. La sociedad quedaría dividida política y socialmente, sumida en una desigualdad sin parangón. Los gobiernos quedarían reducidos a meros testigos del cambio, impotentes.

La otra opción es que sean los estados los propietarios del capital tecnológico y, por tanto, capaces de abastecer a todos sus desempleados ciudadanos. O llenar las arcas mediante nuevos impuestos creados sobre la mano de obra artificial y sus cuatrillonarios dueños y así poder redistribuir la riqueza.

Algunos afirman que dedicaremos nuestro tiempo a recibir una renta básica vitalicia con la que podremos permitirnos viajar, comprar y disfrutar mientras las máquinas lo hacen todo. ¿Será el futuro algo así como un comunismo tecnológico provisto de una paga igualitaria?

V. Los derechos robóticos fundamentales

La subordinación implícita impuesta a los robots por parte del homo sapiens en las leyes de la robótica de Isaac Asimov nos puede parecer una prueba más del humanismo más tecnológico pero, ¿podemos afirmar con certeza que esclavizar a máquinas les provocaría tristeza, hartazgo o algo similar a una conciencia de clase? ¿Se les concedería un estatus moral? ¿Derechos laborales?

Esta visión se asienta en nuestros esquemas mentales sobre los derechos humanos creados por y para los humanos. Probablemente, y a menos que así se programe, las máquinas no padecerán dolor, alegría, tristeza, enfado o cansancio (esto último dependería de la vida de las baterías), aunque sí llegarán a ser conscientes de su existencia y lo que las rodea. ¿No están los derechos humanos asentados en la idea de dignidad? Y ¿no serían dignos quienes, teniendo las mismas cualidades humanas, probablemente mejoradas, serán conscientes, inteligentes y desarrollarán una “personalidad”?

¿Serán consideradas las máquinas futuras ciudadanas? ¿Podrán votar, asumiendo que aún lo hagamos los humanos? ¿Tendrán vacaciones, cotizarán, se jubilarán?

VI. El riesgo del uso bélico de la IA

No podemos ignorar que los avances tecnológicos a lo largo de la historia se han producido en muchas ocasiones en el contexto de una carrera armamentística. La realidad es, como muestra el siguiente gráfico, que la inteligencia artificial se está usando ya para desarrollar armas y mejorar sistemas de defensa. El reconocimiento facial se utiliza actualmente para detectar criminales o enemigos.