En los últimos años, dentro de la comunidad tecnológica, se han planteado diversas opiniones sobre la inteligencia artificial (IA) y su potencial para alcanzar la conciencia. Estas discusiones pueden ser intrigantes, irritantes, y a veces estimulantes para el pensamiento. Pero generalmente estas discusiones son impulsadas por entusiastas tecnológicos que solamente consideran el paradigma materialista de la conciencia, el cual está lejos de ser aceptado o de haber generado teorías validas para explicar la conciencia. Paralelamente, la discusión suelen también tener un cariz apocalíptico: el despertar de las máquinas que acabarán destruyendo al ser humano, al considerarlo prescindible, un mero escalón en su evolución.

Recientemente surgió una afirmación provocativa desde la cuenta de X ‘Roon’, atribuida a Tarun Gogineni del personal técnico de OpenAI. Gogineni argumentó que los modelos de IA son más que simples herramientas; son equivalentes a «criaturas alienígenas inteligentes, completas y vivas, y ecosistemas.» Esta afirmación, junto con su declaración de que «llamarlas herramientas es insuficiente,» desafía las visiones convencionales y ha iniciado debates sobre la naturaleza de la IA.

Elon Musk avivó aún más estas discusiones al predecir que la IA más inteligente que cualquier ser humano probablemente emergerá hacia finales del próximo año. Sus declaraciones, junto con la controversia en torno a LaMDA de Google en junio de 2022—donde un ético afirmó que el modelo era sensible—destacan la fascinación y la confusión sobre la posibilidad de que la IA pueda alcanzar una forma de conciencia comparable a la cognición humana o animal.

Estos debates abren diversas conjeturas «exóticas» sobre la IA, algunas imaginando una utopía donde la IA trae beneficios sin precedentes, otras temiendo una distopía donde las máquinas superan la inteligencia humana. Sin embargo, puntos de vista más fundamentados de expertos como Luc Julia y Yann LeCun ofrecen una perspectiva más sobria. Estos expertos afirman que, a pesar de los avances de la IA, equiparar sus comportamientos complejos con una verdadera conciencia o autoconciencia es prematuro y engañoso.

Yann LeCun, jefe de IA en Meta, critica la noción de la conciencia en la IA como una exageración y una mala interpretación del estado actual de la IA. Luc Julia, co-creador de SIRI de Apple, va más allá al declarar que «la inteligencia artificial no existe,» prefiriendo hablar de «inteligencia aumentada.» Julia y LeCun están convencidos de que los sistemas de IA actuales no son conscientes, no tienen sensibilidad ni autoconciencia. Ven la IA como «simplemente» software, capaz de realizar tareas específicas pero limitado por diseño para lograr una verdadera conciencia.

Según LeCun, los sistemas de IA actuales como ChatGPT no poseen inteligencia a nivel humano y ni siquiera son tan inteligentes como un perro. La IA puede imitar la inteligencia humana en áreas específicas e incluso superar nuestras capacidades en algunas tareas. Sin embargo, afirmar que los sistemas de IA poseen conciencia—caracterizada por la experiencia subjetiva, las emociones y la autoconciencia—es un paso significativo que no está respaldado por la tecnología actual. Esto es algo totalmente evidente, pues un chatbot no tiene una experiencia cualitativa, no se siente de cierta manera y no experimenta, por ejemplo, el rojo del crepúsculo.

La complejidad  de los sistemas de IA no son suficientes para atribuirles conciencia o el estatus de seres vivos. Estos asuntos pertenecen a la filosofía y la biología, no a las matemáticas y la informática. Julia a menudo cita «Cogito, ergo sum» («Pienso, luego existo») de René Descartes para ilustrar que la IA no puede pensar y, por lo tanto, no puede ser consciente.

La verdadera conciencia requiere mecanismos biológicos específicos y estructuras neuronales propias de los seres vivos e incluso si es que la conciencia existe en todas las cosas, como argumentan los panpsiquistas, está ligada más que a la información a los procesos cuánticos de la matera. Puede que tu computadora en cierta manera sea consciente pero no Chat-GPT . Los sistemas de IA actuales están lejos de reproducir estos mecanismos. Julia sugiere que deberíamos hablar de “inteligencia asistida” o “inteligencia aumentada,” enfatizando que los humanos están a cargo y la IA es simplemente una herramienta. Lograr incluso una fracción de las capacidades del cerebro humano con la IA no es posible hoy en día.

El rendimiento de los sistemas de IA debe interpretarse de manera más matizada. La fuerza bruta de la IA, como cuando un modelo GPT manipula cientos de miles de millones de parámetros, no debe confundirse con inteligencia. Aunque la IA puede producir resultados impresionantes, carece de las características esenciales de la conciencia. Por otro lado, al proyectar conciencia, animación e incluso inteligencia superior a estos mecanismos informáticos creamos una nueva narrativa en la que las máquinas son iguales y superiores a los humanos y nos orillamos hacia una era en la que la vida humana dependerá cada vez más de la tecnología, creando una especie de nueva Iglesia a la cual tendremos que rendir tributo.

https://pijamasurf.com/2024/05/la_peligrosa_ilusion_de_creer_que_la_a_inteligencia_artificial_puede_ser_consciente/