Todavía puedo recordar mi sorpresa cuando un libro del biólogo evolutivo Peter Lawrence titulado «La fabricación de una mosca» llegó a tener un precio en Amazon de $ 23,698,655.93 (más $ 3.99 de envío). Si bien mis colegas de todo el mundo debieron estar más deprimidos de que un libro académico pudiera lograr semejante hazaña, el alto precio fue en realidad el resultado de algoritmos que se alimentaron mutuamente y se salieron de control. Resulta que no era solo que el personal de ventas fuera creativo: los algoritmos estaban llamando la atención.

Este ejemplo llamativo fue descubierto y corregido. Pero, ¿qué sucede si tal interferencia algorítmica ocurre todo el tiempo, incluso en formas que ni siquiera notamos? Si nuestra realidad se está construyendo cada vez más por algoritmos, ¿dónde nos deja esto los humanos?

Inspirado por tales ejemplos, mi colega, el profesor Allen Lee y yo, recientemente nos propusimos explorar los efectos más profundos de la tecnología algorítmica en un artículopublicado en el Diario de la Asociación de Sistemas de Información . Nuestra exploración nos llevó a la conclusión de que, con el tiempo, los roles de la tecnología de la información y los seres humanos se han invertido. En el pasado, los humanos utilizábamos la tecnología como herramienta. Ahora, la tecnología ha avanzado hasta el punto en que nos usa e incluso nos controla.

Nosotros, los humanos, no estamos simplemente aislados de las decisiones que las máquinas están tomando para nosotros, sino que están profundamente afectadas por ellas de manera impredecible. En lugar de ser el centro del sistema de decisiones que nos afecta, nos vemos envueltos en su entorno. Hemos restringido progresivamente nuestra propia capacidad de toma de decisiones y hemos permitido que los algoritmos tomen el control. Nos hemos convertido en humanos artificiales, o artefactos humanos, que son creados, moldeados y utilizados por la tecnología.

Abundan los ejemplos. En la ley, los analistas legales están siendo reemplazados gradualmente por inteligencia artificial, lo que significa que la defensa exitosa o el enjuiciamiento de un caso puede depender en parte de los algoritmos. Incluso se ha permitido al software predecir futuros delincuentes , controlando en última instancia la libertad humana mediante la configuración de cómo se niega o se concede la libertad condicional a los presos. De esta manera, las mentes de los jueces están siendo moldeadas por mecanismos de toma de decisiones que no pueden entender debido a lo complejo que es el proceso y la cantidad de datos que involucra.

En el mercado laboral, la excesiva dependencia de la tecnología ha llevado a algunas de las compañías más grandes del mundo a filtrar CV a través del software , lo que significa que los reclutadores humanos nunca echarán un vistazo a los detalles de algunos posibles candidatos. Esto no solo pone los medios de vida de las personas a merced de las máquinas, sino que también puede generar sesgos de contratación que la compañía no deseaba implementar, como sucedió con Amazon .

En noticias, lo que se conoce como análisis de sentimiento automatizado analiza opiniones positivas y negativas acerca de las compañías basadas en diferentes fuentes web. A su vez, estos están siendo utilizados por algoritmos comerciales que toman decisiones financieras automatizadas, sin que los humanos tengan que leer las noticias.

Consecuencias no deseadas

De hecho, los algoritmos que operan sin intervención humana ahora juegan un papel importante en los mercados financieros. Por ejemplo, el 85% de todas las transacciones en los mercados de divisas se realiza mediante algoritmos solos. La creciente carrera de armamentos algorítmica para desarrollar sistemas cada vez más complejos para competir en estos mercados significa que se están asignando enormes sumas de dinero de acuerdo con las decisiones de las máquinas.

A pequeña escala, las personas y las empresas que crean estos algoritmos pueden afectar lo que hacen y cómo lo hacen. Pero debido a que gran parte de la inteligencia artificial involucra software de programación para descubrir cómo completar una tarea por sí misma, a menudo no sabemos exactamente qué hay detrás de la toma de decisiones. Al igual que con toda la tecnología, esto puede llevar a consecuencias no deseadas que pueden ir mucho más allá de lo que los diseñadores hayan previsto.

Tome el 2010 “Flash Crash” del Índice de Promedio Industrial Dow Jones. La acción de los algoritmos ayudó a crear el mayor descenso del índice en su historia, eliminando casi el 9%de su valor en minutos (aunque recuperó la mayor parte al final del día). Una investigación de cinco meses solo podría sugerir lo que provocó la desaceleración (y se han propuesto varias otras teorías ).

Pero los algoritmos que amplificaron los problemas iniciales no cometieron un error. No había ningún error en la programación. El comportamiento surgió de la interacción de millones de decisiones algorítmicas que se enfrentaron de manera impredecible, siguiendo su propia lógica de una manera que creó una espiral descendente para el mercado.

Las condiciones que hicieron esto posible ocurrieron porque, a lo largo de los años, las personas que dirigían el sistema de comercio habían llegado a ver las decisiones humanas como un obstáculo para la eficiencia del mercado. En 1987, cuando el mercado de valores de EE. UU. Cayó un 22,61%, algunos corredores de Wall Street simplemente dejaron de levantar sus teléfonos para evitar recibir las órdenes de sus clientes de vender acciones. Esto inició un proceso que, como lo escribió el autor Michael Lewis en su libro Flash Boys , «ha terminado con computadoras que reemplazan completamente a la gente».

El mundo financiero ha invertido millones en cables ultrarrápidos y comunicaciones por microondas para reducir apenas milisegundos de la velocidad a la que los algoritmos pueden transmitir sus instrucciones. Cuando la velocidad es tan importante, un ser humano que requiere 215 milisegundos para hacer clic en un botón es casi completamente redundante. Nuestro único propósito restante es reconfigurar los algoritmos cada vez que falla el sistema de decisiones tecnológicas.

A medida que se crean nuevos límites entre los seres humanos y la tecnología, debemos pensar detenidamente hacia dónde nos está llevando nuestra dependencia extrema del software. A medida que las decisiones humanas son sustituidas por otras algorítmicas, y nos convertimos en herramientas cuyas vidas son moldeadas por máquinas y sus consecuencias no deseadas, nos estamos preparando para la dominación tecnológica. Tenemos que decidir, mientras podamos, qué significa esto para nosotros como individuos y como sociedad.

https://theconversation.com/algorithms-have-already-taken-over-human-decision-making-111436