Hace algunos años, cuando todavía vivía en el sur de California, el neurocientífico Christof Koch bebió una botella de vino Barolo mientras veía The Highlander y luego, a medianoche, corrió hasta la cima del Monte Wilson, el pico de 5.710 pies que se cierne sobre nosotros. sobre Los Ángeles.
Después de una hora de “tropezar con mi lámpara frontal y sentir náuseas”, como describió más tarde el incidente, se dio cuenta de que la aventura nocturna probablemente no era una buena idea, y volvió a bajar, no sin antes gritar en la oscuridad la última línea de Poema “Invictus” de William Ernest Henley de 1875: “Soy el dueño de mi destino / Soy el capitán de mi alma”.
Koch, que saltó a la fama por su trabajo colaborativo con el fallecido premio Nobel Francis Crick, no es el único científico que reflexiona sobre la naturaleza del yo, pero sí es quizás el más aventurero, tanto en cuerpo como en mente. Ve la conciencia como el misterio central de nuestro universo y está dispuesto a explorar cualquier idea razonable en busca de una explicación.
A lo largo de los años, Koch ha jugado con una amplia gama de ideas, algunas de ellas claramente especulativas, como la idea de que Internet podría volverse consciente, por ejemplo, o que con suficiente tecnología se podrían fusionar múltiples cerebros, uniendo las mentes que los acompañan. por el camino. (Y, sin embargo, tiene sus límites: es profundamente escéptico tanto respecto de la idea de que podemos “ cargar ” nuestras mentes como de la “ hipótesis de la simulación ”).
En su nuevo libro, Then I Am Myself The World , Koch, actual científico jefe del Instituto Allen de Ciencias del Cerebro en Seattle, se aventura a través del desafiante panorama de la teoría de la información integrada (IIT), un marco que intenta calcular la cantidad de conciencia en un sistema basada en el grado en que la información está interconectada. En el camino, lucha con la que puede ser la pregunta más difícil de todas: ¿Cómo nuestros pensamientos, aparentemente etéreos y sin masa ni ninguna otra propiedad física, tienen consecuencias en el mundo real? Nos reunimos con él recientemente a través de Zoom.
En su nuevo libro, usted pregunta cómo la mente puede influir en la materia. ¿Estamos hoy más cerca de responder esa pregunta que cuando Descartes la planteó hace casi cuatro siglos?
Retrocedamos. La filosofía occidental de la mente gira en torno a dos polos, el físico y el mental; considérelos como el polo norte y el polo sur. Está el materialismo, que ahora se conoce como fisicalismo, que dice que sólo lo físico existe realmente y no lo mental; todo es una ilusión, como han dicho Daniel Dennett y otros.
Luego está el idealismo, que ahora disfruta de un mini renacimiento, pero que en general no ha sido popular en el siglo XX y principios del XXI, que dice que todo es fundamentalmente una manifestación de lo mental.
Luego está el dualismo clásico, que dice, bueno, está claramente la materia física y la mental, y de alguna manera tienen que interactuar. Ha sido un desafío comprender cómo interactúa lo mental con lo físico; eso se conoce como el problema de causalidad.
Y luego hay otras cosas como el panpsiquismo , que ahora se está volviendo muy popular nuevamente , que es una fe muy antigua. Dice que fundamentalmente todo tiene “alma”: que todo, incluso las partículas elementales, se siente un poco como algo.
Todas estas posiciones diferentes tienen problemas. El fisicalismo sigue siendo una filosofía dominante, particularmente en los departamentos de filosofía occidentales y en las grandes tecnologías. El fisicalismo dice que todo es fundamentalmente físico y que puedes simularlo; esto se llama «funcionalismo computacional». El problema es que, hasta ahora, la gente no ha podido explicar la conciencia porque es muy diferente de la física.
Puede ser que una pequeña bacteria se sienta un poco como algo.
¿Qué dice la teoría de la información integrada sobre la conciencia?
IIT dice, fundamentalmente, lo que existe es conciencia. Y la conciencia es lo único que existe por sí mismo . Eres consciente. Esta noche, en algún momento caerás en un sueño profundo y luego ya no estarás consciente; entonces no existes para ti mismo. Tu cuerpo y tu cerebro todavía tienen existencia para los demás (puedo ver tu cuerpo allí), pero tú no existes para ti mismo. De modo que sólo la conciencia existe para sí misma; esa es la existencia absoluta. Todo lo demás es derivado.
Dice que, en última instancia, la conciencia es poder causal sobre sí misma: la capacidad de marcar la diferencia. Y ahora estás buscando un sustrato, como un cerebro o una CPU de computadora o cualquier cosa. Entonces la teoría dice que cualquiera que sea su experiencia consciente (lo que se siente al ver rojo, oler el queso Limburger, o tener un tipo particular de dolor de muelas) se asigna uno a uno a esta estructura, esta forma, esta relación causal. . No es un proceso. No es un cálculo. Es muy diferente de todas las demás teorías.
Cuando se utiliza este término “poderes causales”, ¿en qué se diferencia de una cadena ordinaria de acontecimientos de causa y efecto? Como si estuvieras jugando al billar, golpeas la bola blanca y la bola blanca golpea la bola ocho…
No es nada guau. Es la capacidad de un sistema, digamos una bola de billar, de marcar la diferencia. En otras palabras, si le golpea otra pelota, se mueve y eso tiene un efecto en el mundo.
Y el IIT dice que tienes un sistema (un conjunto de cables o neuronas) y es la medida en que tienen poder causal sobre sí mismos. Siempre estás buscando el máximo poder causal que el sistema puede tener sobre sí mismo. Eso es, en última instancia, lo que es la conciencia. Es algo muy concreto. Si me das una descripción matemática de un sistema, puedo calcularlo, no es algo etéreo.
¿Se puede medir entonces objetivamente desde fuera?
Eso es correcto.
Pero, por supuesto, estaba la carta del año pasado firmada por 124 científicos que afirmaban que la teoría de la información integrada es pseudociencia, en parte porque, dijeron, no es comprobable.
Hace muchos años, organicé una reunión en Seattle, donde nos reunimos y planeamos una “colaboración adversa”. Se centró específicamente en la conciencia. La idea era: tomemos dos teorías de la conciencia: en este caso, la teoría de la información integrada frente a la otra dominante, la teoría del espacio de trabajo neuronal global . Reunámonos en una sala para discutir (sí, es posible que no estén de acuerdo en muchas cosas), pero ¿podemos ponernos de acuerdo sobre un experimento que pueda probar simultáneamente las predicciones de las dos teorías y en el que estemos de acuerdo de antemano, por escrito: si el resultado es A apoya la teoría A; si es B, ¿apoya la teoría B? Se trataba de 14 laboratorios diferentes.
Los experimentos intentaban predecir dónde están las “huellas neuronales de la conciencia”, hablando en términos crudos. ¿Están en la parte posterior del cerebro, como afirma la teoría de la información integrada, o en la parte frontal del cerebro, como afirma el espacio de trabajo neuronal global? Y el resultado fue muy claro: dos de los tres experimentos estaban claramente en contra de la corteza prefrontal y a favor de la huella neuronal del ser consciente en la espalda.
No es mi cerebro el que ve; es la conciencia la que ve.
Esto provocó una intensa reacción en forma de esta carta, donde se afirmaba que la teoría no se puede comprobar, lo cual creo que es una tontería. Y luego, por supuesto, hubo un retroceso contra el otro, porque la gente decía, espera, la TII puede estar equivocada (la teoría es ciertamente muy diferente de la ideología dominante), pero ciertamente es una teoría científica; hace algunas predicciones muy precisas.
Pero tiene una metafísica diferente. Y a la gente no le gusta esto.
La mayoría de la gente hoy en día cree que si puedes simular algo, eso es todo lo que necesitas hacer. Si una computadora puede simular el cerebro humano, entonces, por supuesto, [la simulación] será consciente. Y los LLM, tarde o temprano [en la visión funcionalista] serán conscientes, es solo una cuestión de: ¿es consciente hoy o necesita algún algoritmo más inteligente?
El IIT dice que no, no se trata de simular; no se trata de hacer; en última instancia, se trata de ser , y para eso, en realidad, hay que mirar el hardware para decir si es consciente o no.
¿IIT implica un compromiso con el panpsiquismo?
No es panpsiquismo. El panpsiquismo dice: «esta mesa es consciente» o «este tenedor es consciente». El panpsiquismo dice, fundamentalmente, que todo está imbuido tanto de propiedades físicas como de propiedades mentales. Entonces un átomo tiene propiedades tanto mentales como físicas.
El IIT dice que no, eso ciertamente no es cierto. Sólo las cosas que tienen poder causal sobre sí mismas [son conscientes]; esta mesa no tiene ningún poder causal sobre sí misma; simplemente no hace nada, simplemente se queda ahí.
Pero comparte algunas intuiciones [con el panpsiquismo]—en particular, que la conciencia está en un gradiente, y que tal vez incluso un sistema comparativamente simple, como una bacteria—ya contiene mil millones de proteínas, [hay] una inmensa interacción causal—puede Bien puede ser que esta pequeña bacteria se sienta un poco como algo . Nada como nosotros, ni siquiera la conciencia de un perro. Y cuando muere, digamos, cuando te dan antibióticos y su membrana se disuelve, entonces ya no siente nada.
Una teoría científica tiene que basarse en su poder predictivo. Y si el poder predictivo dice que sí, la conciencia es mucho más amplia de lo que pensamos: no somos sólo nosotros y tal vez los grandes simios; tal vez esté en todo el reino animal, tal vez en todo el árbol de la vida… bueno, entonces, que así sea.
Hacia el final del libro, escribe: «Yo decido, no mis neuronas». No puedo evitar pensar que son dos maneras de decir lo mismo: en el nivel macro soy «yo», pero en el nivel micro, son mis neuronas. ¿O me estoy perdiendo algo?
Sí, es una diferencia sutil. Lo que realmente existe por sí mismo es tu conciencia. Cuando estás inconsciente, como en un sueño profundo bajo anestesia , ya no existes para ti mismo y no puedes tomar ninguna decisión. Entonces lo que realmente existe es la conciencia, y ahí es donde ocurre la verdadera acción.
De hecho te veo en la pantalla, hay luces en la imagen; Dentro de mi cerebro, te lo puedo asegurar, no hay luces, está totalmente oscuro. Mi cerebro está en un lío. Entonces no es mi cerebro el que ve; es la conciencia la que ve. No es mi cerebro el que toma una decisión, es mi conciencia la que toma una decisión. No son lo mismo.
Puedes simular una tormenta, pero nunca se moja dentro de la computadora.
Desde que tenemos computadoras, la gente ha discutido sobre si el cerebro es algún tipo de procesador de información. Usted ha argumentado que no lo es. Desde esa perspectiva, supongo que no crees que los modelos de lenguaje grandes tengan poderes causales.
Correcto. De hecho, puedo hacer con bastante seguridad la siguiente afirmación: según el IIT no existe una prueba de Turing para la conciencia, porque no se trata de una función; se trata de esta estructura causal. Así que en realidad hay que mirar la CPU o el chip, lo que sea que haga el cálculo. Tienes que mirar a ese nivel: ¿Cuál es el poder causal?
Ahora, por supuesto, se puede simular perfectamente un cerebro humano haciendo todo lo que un cerebro humano puede hacer; al menos conceptualmente no hay ningún problema. Y, por supuesto, un día una simulación por computadora dirá: «Estoy consciente», como lo hacen muchos grandes modelos de lenguaje, a menos que tengan barreras de seguridad donde te digan explícitamente: «Oh, no, solo soy un LLM; no soy consciente». conscientes”, porque no quieren asustar al público.
Pero eso es todo simulación; eso en realidad no es ser consciente. Así como puedes simular una tormenta, pero nunca se moja dentro de la computadora, curiosamente, a pesar de que simuló una tormenta. Puedes resolver la ecuación de la relatividad general de Einstein para un agujero negro, pero nunca debes tener miedo de ser absorbido por tu simulación por computadora. ¿Por qué no? Si realmente calcula la gravedad, ¿no debería el espacio-tiempo doblarse alrededor de mi computadora y absorberme a mí y a la computadora? No, porque es una simulación. Ésa es la diferencia entre lo real y lo simulado. Lo simulado no tiene los mismos poderes causales que lo real.
Entonces, a menos que se construya una máquina a imagen de un cerebro humano (digamos usando ingeniería neuromórfica, posiblemente usando computadoras cuánticas), entonces no se puede obtener una conciencia a nivel humano. Si simplemente los construyes como los construimos ahora, donde un transistor se comunica con otros dos o tres transistores (eso es radicalmente diferente de la conectividad del cerebro humano), nunca obtendrás conciencia. Así que puedo decir con confianza que, aunque muy pronto los LLM podrán hacer todo lo que nosotros podemos hacer, y probablemente más rápido y mejor que nosotros, nunca serán conscientes.
Entonces, desde este punto de vista, ¿no se parece a nada ser un modelo de lenguaje grande, mientras que podría ser algo así como ser un ratón o un lagarto, por ejemplo?
Correcto. Es como algo ser un ratón. Ser un LLM no se parece a nada, aunque el LLM es mucho más inteligente, en cualquier sentido técnico, que el mouse.
Sin embargo, irónicamente, el LLM puede decir “Hola, estoy consciente”, algo que el ratón no puede hacer.
Por eso es tan seductor, porque puede hablarnos y expresarse de forma muy elocuente. Pero es un vampiro gigantesco: absorbe toda la creatividad humana, la arroja a su red y luego la escupe de nuevo. No hay nadie en casa allí. No parece nada ser un LLM.
Imagen principal: chaiyapruek youprasert / Shutterstock
Artículo original en: