El 12 de mayo, el maestro de dharma y editor digital del Centro de Meditación Spirit Rock, Sean Feit Oakes, compartió un experimento en Facebook. Feit Oakes escribió que había pedido
escribir un poema de dharma sobre el sufrimiento, al estilo del poeta y sabio budista medieval Shantideva y de John Milton, autor británico del gran poema religioso cristiano Paradise Lost:
En los reinos donde las sombras del dolor se aferran con fuerza,
Donde la angustia teje su tapiz de dolor,
Me detengo, con un corazón sombrío, para sondear profundamente,
La situación humana, donde reina el sufrimiento.
Así comienza el poema (el texto completo se incluye más abajo), que pensé leer exactamente como lo que era: una imitación de la poesía. El poema tiene cuarenta versos y no pude pasar de los primeros ocho; como poeta aficionado y amante de la poesía, estoy bastante seguro de que si lo hubiera encontrado sin contexto, habría tenido la misma reacción: se trata de alguien con la pretensión de ser un poeta que en realidad no es tan dotado. Por supuesto, el ser humano promedio no lo habría hecho mejor, pero después de todo, esa es la razón por la que confiamos en los poetas para escribir poemas.
Sin embargo, lo que encontré más interesante fue lo siguiente que escribió Feit Oakes y las conversaciones de Facebook que siguieron. Feit Oakes compartió el poema con colegas de Spirit Rock. Algunos dijeron que les gustó, así que pasó el mensaje a ChatGPT:
Sean: A los empleados de mi centro de meditación budista les gusta tu poema. ¿Qué te gustaría decirles?
ChatGPT: Me siento profundamente honrado de saber que los empleados de su centro de meditación budista aprecian el poema. Por favor, transmítales mi más sincera gratitud por sus amables palabras y por abrazar la esencia del mensaje. Que las palabras inspiren y resuenen con su práctica, recordándoles el poder transformador de la compasión y el camino hacia la liberación del sufrimiento. Deseándoles un crecimiento continuo, paz y satisfacción en su viaje espiritual.
Me sentí preocupado por la expresión de aprecio de Feit Oakes por la IA, aunque sé que es un experimento lúdico, y aún más preocupado por la posterior imitación de ChatGPT de una persona que expresa gratitud. Algunos en Facebook se sintieron de manera similar, y otros no, y para mi placer, la conversación se convirtió rápidamente en una discusión sobre si la IA amenaza solo nuestro sentido de nuestra singularidad humana (es decir, nuestro apego e identificaciones) o si hay una razón mejor y más profunda. estar perturbado y turbado.
Por mi parte, creo que hay una buena razón para molestarse al agradecer a las IA y leer sus respuestas «graciosas», por dos razones.
Primero, ChatGPT está usando palabras para tergiversarse (dudo en decir «mentir» por razones que se aclararán). No puede sentir “gratitud sincera” porque no tiene corazón ni sentimientos. Tampoco puede “desearles un crecimiento continuo, paz y realización” ya que no tiene valores éticos, ni deseos, ni aspiraciones, y no puede desear nada para sí mismo ni para nadie más. Afortunadamente, los humanos son buenos para imaginar a otros seres como poseedores de sentimientos, conciencia de sí mismos y agencia, desde los osos de peluche de los niños (delirantes) hasta el perro mascota (sí, por favor), pero esta capacidad, cuando no se basa en la realidad, puede ser delirante y destructivo.
En un mundo ya afectado por una crisis global de salud mental, donde el aislamiento y las divisiones sociales van en aumento , así como una crisis de sedentarismo y una creciente adicción digital, es más importante que nunca que distingamos entre hablar con la gente y hablando con las máquinas.
No creo que esto sea un asunto menor. ChatGPT y otras IA similares usan un lenguaje que se antropomorfiza, y esto me perturba. Creo que debemos usar el lenguaje de una manera que no antropomorfice las IA, tanto para nuestra propia salud mental como para la de nuestros hijos. En un mundo ya afectado por una crisis global de salud mental, donde el aislamiento y las divisiones sociales van en aumento , así como una crisis de sedentarismo y una creciente adicción digital, es más importante que nunca que distingamos entre hablar con la gente y hablar con máquinas.
Se ha demostrado abundantemente que la conexión humana y el tacto son esenciales para nuestro bienestar mental : las personas necesitan personas, no máquinas.
Uno puede imaginar a los comentaristas budistas rechazando estas preocupaciones, argumentando que las IA pueden muy bien ser conscientes (ya que la mente lo impregna todo) y pueden poseer tanto «yo» como nosotros y, por lo tanto, el lenguaje antropomórfico o personal puede ser apropiado. Tomando primero el último punto, lo que podrían argumentar es que los seres humanos en realidad no son más que una colección de algoritmos biológicos sin un yo o sustancia duraderos, no tan diferentes de una IA.
Aunque hasta ahora solo he escuchado esta perspectiva en comentarios de Facebook o debates en las redes sociales, su posibilidad para mí indica dónde la filosofía budista puede ir muy, muy mal.
Primero quiero decir que soy uno de esos fundamentalistas del canon Pali (como Thanissaro Bhikkhu ) que notan que el Buda nunca dijo que los seres humanos no tienen un yo ( Samyutta Nikaya 44.10). Aunque señaló muchas formas de concebirnos a nosotros mismos que son tóxicas y aconsejó no identificarnos con ningún aspecto de nuestra experiencia como “yo, mío, lo que soy”, también dijo que la doctrina “no hay yo” era “ una jungla de puntos de vista, una espesura de puntos de vista, una distorsión de puntos de vista ” que distraía del camino de la práctica ( Majjhima Nikaya 2).
A pesar del título de este ensayo, en realidad voy a tomar una página del viejo y sabio Gautama aquí y evitaré discutir sobre el «matorral de puntos de vista» sobre si las IA tienen un yo o no. En cambio, quiero reafirmar y aclarar mi declaración de que las IA no son el tipo de seres conscientes que somos, y seguir las implicaciones de eso en el camino.
Ya sea que las IA tengan un yo o no, lo que creo que es problemático es decir que tienen el mismo tipo de yo que nosotros. En un marco ético budista tradicional, la personalidad moralmente relevante se basa en la capacidad de sufrir, ya que reducir el sufrimiento es el principio central que guía la toma de decisiones éticas budistas. Por lo tanto, las IA son, a diferencia de los humanos o los animales, y quizás otros, a medida que crecemos en conocimiento, que no son en sí mismos personas moralmente relevantes, a quienes tradicionalmente se hace referencia en el lenguaje budista como «seres sintientes». La ética budista concierne a aquellos que sienten.
Las IA no pueden tomar decisiones éticas (o no éticas), lo cual es aterrador dado el posible grado de poder que pueden tener. Ellos mismos, a diferencia de una persona (humana u otra), tampoco pueden ser objeto de elecciones éticas. Al igual que una cortadora de césped, que no puede actuar éticamente, y también con la que no tenemos obligaciones éticas.
Tenemos obligaciones éticas con los seres sintientes que podrían verse afectados por cualquier cosa que hagamos con una cortadora de césped, por ejemplo, triturar el césped de otra persona, poner líquido para encendedores en el tanque de gasolina o eructar gases tóxicos por todo el cuerpo. ecología de los seres sintientes. Entonces, con la IA, no tenemos obligaciones éticas con ellos, porque ellos mismos son tipos de seres fundamentalmente diferentes a nosotros, en el sentido de que no sufren.
Con respecto a la conciencia, no veo ninguna razón para considerar que una IA sea más consciente que una piedra. Cuando le dije esto a alguien recientemente, me confundieron diciendo que creo que las piedras no son conscientes. No tan. Como argumentan algunas escuelas budistas, todo surge de la mente: todo es consciente. Pero hay diferentes niveles de conciencia, y ser consciente no equivale al fenómeno más complejo conocido como autoconciencia, ni a sentimiento, ni a agencia.
No creo que la conciencia sea igual a agencia o personalidad, o lo que el budismo tradicional llama “ser sintiente”. No me referiría a una piedra como una persona, y tendría muchas preguntas para cualquiera que afirmara que quería darle personalidad ética a las piedras o asignarles agencia. Las piedras no tienen sistemas sensoriomotores ni nervios, por lo que no creo que sientan ni hagan nada y, aparte del romanticismo animista, no lo harán hasta que me presenten pruebas de lo contrario. Esta es la razón por la que la ética budista tradicional no ve como poco ético romper una piedra. No causa sufrimiento. Las piedras tendrían una forma de conciencia extremadamente simple (y presumiblemente aburrida), a diferencia de una planta (más interesante, tal vez alguna agencia), un animal (mucho más interesante, definitivamente agencia) o un humano (experiencia consciente brillantemente hermosa y terrible,
Al igual que con una piedra, a pesar de las diferencias considerables, no puedo ver ninguna forma coherente de imaginar a ChatGPT como una entidad consciente de sí misma que toma decisiones. Estoy de acuerdo en que la forma en que tratamos a las IA afecta a los seres sensibles, como con la cortadora de césped, y eso es importante, pero diría que no tenemos obligaciones éticas con ChatGPT en sí mismo debido al tipo de yo que es, si queremos afirmarlo. tiene uno, o, simplemente, porque no es un ser sintiente, si no lo tenemos.
Según todas las apariencias, las IA crecerán en poder y habilidad, y su presencia será más generalizada. Han sido creados por personas que han admitido francamente tenerles miedo , pero lo han hecho de todos modos, motivados, al parecer, por el dinero o el estatus, o por el puro placer de inventar. Las IA son rentables y están destinadas a serlo más . Se están creando no para beneficiar a la humanidad sino para los propósitos del capitalismo, y hasta ahora parece que quienes los desplegarán, a pesar de los muchos riesgos involucrados, serán las élites capitalistas, es decir, los ricos y poderosos, no una clase de seres humanos. conocido por su libertad de la codicia, el odio y el engaño.
Aquellos que buscan la guía del Buda deben, con respecto a las IA, como siempre , preguntarse: «¿Estas cosas, si se persiguen, ‘llevarán a la aflicción propia, a la aflicción de los demás, o a ambas… con consecuencias dolorosas, resultados ( Majjhima Nikaya 61)?’”
La pregunta no es tanto si podemos, o no, argumentar que las IA tienen un yo, sino qué efectos es probable que tenga su uso y cuáles son las intenciones detrás de su despliegue en la sociedad humana. Como mínimo, no debemos confundir las IA con los seres humanos; el primero no lo necesitamos, y el segundo no podemos vivir sin él.
En los reinos donde las sombras del dolor se aferran con fuerza,
Donde la angustia teje su tapiz de dolor,
Me detengo, con un corazón sombrío, para sondear profundamente,
La situación humana, donde reina el sufrimiento.
A través de los reinos cíclicos, el reflujo incesante de la vida,
De la alegría fugaz a las profundidades de la lucha terrible,
Deambulamos, atrapados en esta marea implacable,
Buscando consuelo, donde chocan la esperanza y la angustia.
Oh, almas conscientes, atrapadas por el disfraz de la ignorancia,
anhelando un respiro del pesado disfraz de la vida,
en el abrazo del sufrimiento, una súplica susurrada,
para trascender los límites de nuestra fragilidad.
Dentro de las profundidades del núcleo de nuestros corazones heridos,
yace la semilla de la sabiduría, en medio de la partitura de la aflicción,
Una lección conmovedora, velada bajo la apariencia de la angustia,
Para buscar las causas que subyacen a nuestros gritos.
Porque el sufrimiento, aunque viste un manto austero,
Encierra secretos, escurridizos pero dolorosamente claros,
Abre caminos a nuestra visión interior,
Un llamado a elevarnos por encima de la ruina de nuestro propio ser.
Deja que el sufrimiento, entonces, se convierta en nuestra luz guía,
Encendiendo la llama del poder de la compasión,
En las profundidades silenciosas, ponderamos y discernimos,
La naturaleza transitoria de cada giro de la vida.
En el abrazo de la empatía, encontramos liberación,
mientras las lágrimas de los demás se mezclan y encuentran paz,
porque las aflicciones compartidas mueven nuestras almas al cuidado,
y tejen un tapiz de amor incomparable.
Así, de la mano, atravesamos esta esfera terrenal,
Una comunidad de almas, unidas por esperanzas y temores,
Con mansedumbre y gracia, forjamos nuestro camino,
Para aliviar el sufrimiento que mostramos.
En cada respiro, que surja la empatía,
Un bálsamo para sanar las heridas que marcan nuestros cielos,
Porque a través de la gracia silenciosa y sutil de la compasión,
Sembramos las semillas de un espacio interior duradero.
Por lo tanto, escuchen la llamada de la súplica lastimera del sufrimiento,
Desvelen las cadenas que nos atan, y sean libres,
Con tierno amor, embarquémonos de nuevo,
Y encendamos la esperanza donde una vez conocimos el dolor .