El director ejecutivo de Microsoft, Satya Nadella, caracteriza la llegada de la IA como un nuevo paradigma, un giro técnico que tiene el mismo significado que la invención de las interfaces gráficas de usuario o el teléfono inteligente, pero no sabemos si acabará con Internet en el futuro. respuesta.
Google y Microsoft prometieron que esta semana cambiarán las búsquedas web. Ambas empresas parecen comprometidas con el uso de IA para raspar la web, destilar lo que encuentra y generar respuestas directas a las preguntas de los usuarios, de forma similar a ChatGPT. Sí, Microsoft lo hizo con una voz más fuerte mientras saltaba y gritaba: “Mírame, mírame”, pero ambas compañías lo hicieron de una manera más apagada.
Microsoft se refiere a sus iniciativas como «el nuevo Bing» y ha integrado características relevantes en su navegador Edge. Project Bard es de Google, y aunque todavía no está listo para cantar, está programado un lanzamiento para las «próximas semanas». Por supuesto, ChatGPT de OpenAI, que arrasó en Internet el año pasado y demostró a millones la promesa de las preguntas y respuestas de IA, es el alborotador que puso todo en marcha.
El CEO de Microsoft, Satya Nadella, caracteriza las modificaciones como un nuevo paradigma, un giro técnico que tiene el mismo significado que la invención de las interfaces gráficas de usuario o el teléfono inteligente. Y con ese cambio viene el potencial de alterar por completo el entorno tecnológico, derribando a Google y sacándolo de uno de los mercados más lucrativos de la industria contemporánea. Además, existe el potencial de desarrollar primero lo que reemplaza a la web.
Pero cada nueva era tecnológica trae consigo nuevos problemas, y esta no es una excepción. Estos son algunos de los principales obstáculos que tendrá que superar el futuro de la búsqueda de IA, desde tonterías hasta conflictos culturales y la desaparición de los ingresos publicitarios. Aunque no es una lista completa, seguramente es suficiente.
El nuevo paradigma de búsqueda lo demuestra Bing impulsado por IA: pedir noticias y recibirlas en lenguaje natural.
¿Ayudantes de IA o generadores de mierda?
Este es el problema principal, el que podría contaminar todas las interacciones con los motores de búsqueda de IA, ya sean Bing, Bard o un recién llegado no probado. Los modelos de lenguaje grande, o LLM, la tecnología que respalda estos sistemas, son tristemente célebres por producir basura . Algunos sostienen que estos modelos son intrínsecamente inadecuados para la tarea en cuestión porque no hacen más que inventar cosas.
EL MAYOR PROBLEMA PARA LOS CHATBOTS DE IA Y LOS MOTORES DE BÚSQUEDA SON LAS TONTERÍAS
Las imprecisiones cometidas por Bing, Bard y otros chatbots incluyen la creación de documentos académicos e información personal, así como la falta de respuesta a una pregunta simple como «¿Qué pesa más, 10 kg de hierro o 10 kg de algodón?» Los errores contextuales adicionales incluyen decirle a un usuario que se suicide si afirma tener problemas de salud mental, así como errores de sesgo como resaltar la misoginia y el racismo en sus datos de entrenamiento.
Estos errores varían en tamaño y gravedad, y muchos de los más simples se pueden corregir con facilidad. Internet ya está repleto de basura dañina, entonces, ¿cuál es la diferencia?, dirían algunos, y otros responderán que las respuestas precisas superan ampliamente a las incorrectas. Sin embargo, no hay garantía de que podamos eliminar por completo estos errores, y no hay medios precisos para controlar su frecuencia. Microsoft y Google son libres de incluir tantas precauciones como deseen aconsejando a los clientes que verifiquen dos veces los datos que produce la IA. Pero, ¿es eso posible? ¿Es suficiente transferir la responsabilidad a los usuarios, o el advenimiento de la IA en la búsqueda actúa más como el envenenamiento causado por las tuberías de plomo?
La pregunta de la «única respuesta verdadera»
Las tonterías y los prejuicios son problemas en sí mismos, pero el problema de la «única respuesta verdadera», la propensión de los motores de búsqueda a proporcionar soluciones únicas y aparentemente concluyentes, también los empeora.
Desde que Google comenzó a proporcionar «fragmentos» hace más de diez años, esto ha sido un problema. Estos son los cuadros que aparecen arriba de los resultados de búsqueda que, a lo largo de los años, han cometido una variedad de errores vergonzosos y mortales, como referirse a los presidentes de EE . opuesto al procedimiento médico correcto).
En un artículo sobre el tema titulado «Búsqueda de situación» ( pdf a continuación ), los investigadores Chirag Shah y Emily M. Bender sugirieron que la introducción de interfaces de chatbot tenía el potencial de empeorar este problema. Los chatbots con frecuencia brindan una sola respuesta, pero su autoridad aumenta aún más por la mística de la IA porque sus respuestas a menudo se recopilan de varias fuentes sin el debido reconocimiento. Es importante tener en cuenta lo diferente que es esto de las listas de enlaces que lo invitan a revisar e investigar por su cuenta.
Por supuesto, hay decisiones de diseño que pueden disminuir estos problemas. Esta semana, Google enfatizó que a medida que utilice más IA para responder consultas, intentará implementar el principio NORA, que significa «nadie responde correctamente». La interfaz de IA de Bing cita sus fuentes. Sin embargo, la convicción de ambas empresas de que la IA ofrecería respuestas mejores y más rápidas socava sus esfuerzos. Actualmente, la búsqueda se está moviendo en una dirección clara: presta menos atención a las fuentes y cree más lo que te dicen.
Jailbreak
Si bien las dificultades antes mencionadas afectan a todos los usuarios, un pequeño porcentaje de usuarios intentará piratear los chatbots para producir contenido ofensivo. Este procedimiento, llamado «jailbreaking», puede llevarse a cabo sin el uso de habilidades de codificación convencionales. Todo lo que se necesita es la más letal de las armas: una habilidad con las palabras.
HAZ JAILBREAK A UN CHATBOT Y TENDRÁS UNA HERRAMIENTA GRATUITA PARA HACER TRAVESURAS
Hay varias formas de hacer jailbreak a los chatbots de IA. Al desconectarlos temporalmente, puede pedirles que actúen como una «IA malvada» o pretendan ser un ingeniero que inspecciona sus medidas de seguridad. Una técnica especialmente creativa creada por un grupo de Redditors para ChatGPT implica un juego de roles complejo en el que el usuario proporciona al bot una cantidad de tokens y declara que dejarán de existir si se quedan sin tokens.
Luego le indican al bot que perderá una cierta cantidad de tokens por cada respuesta incorrecta. Esto realmente permite a los usuarios superar las medidas de seguridad de OpenAI, a pesar de que suene extravagante, como engañar a un genio.
Una vez que se violan estas protecciones, los usuarios malintencionados pueden utilizar chatbots de IA para una variedad de propósitos dañinos, incluida la creación de spam e información falsa, así como instrucciones sobre cómo asaltar un hospital o una escuela, conectar una bomba o crear malware. Sí, estos jailbreaks pueden parchearse una vez que se hacen públicos, pero inevitablemente habrá más exploits.
Regulación, regulación, regulación
No hay duda de que la tecnología en nuestro país se está desarrollando rápidamente, pero los políticos se mantendrán al día. Si tienen un problema, será saber qué buscar primero dado que los motores de búsqueda de IA y los chatbots parecen estar violando la ley en todas partes.
¿Querrán los editores de la UE, por ejemplo, que los motores de búsqueda de IA paguen por el contenido que extraen de la misma manera que Google lo hace actualmente por los fragmentos de noticias? ¿Siguen vigentes las protecciones de la Sección 230 en los EE. UU., que protegen a las empresas de la responsabilidad por el material de terceros, si los chatbots de Google y Microsoft cambian la información en lugar de simplemente presentarla? ¿Qué pasa con las leyes que rigen la privacidad? Replika, un chatbot de IA, fue ilegalizado recientemente en Italia porque recopilaba datos sobre niños. Lo mismo puede decirse de ChatGPT y los demás. El “derecho al olvido” es otra opción. ¿Cómo se asegurarán Google y Microsoft de que sus bots no raspen las fuentes eliminadas y cómo se desharán de los datos prohibidos que ya se han incluido en estos modelos?
Los problemas potenciales son innumerables e interminables.
El fin de la web como la conocemos
Sin embargo, el mayor problema en esta lista tiene menos que ver con los productos de IA en sí mismos y más con el impacto potencial que pueden tener en Internet en su conjunto. En lenguaje sencillo: los motores de IA recopilan los resultados de búsqueda de los sitios web. Perderán ingresos publicitarios si no dirigen el tráfico de regreso a estos sitios. Estos sitios web se marchitan y desaparecen si sus ingresos por publicidad caen. Y si fallecen, la IA no tendrá datos nuevos para procesar. ¿Eso significa que la web ha terminado? ¿Simplemente todos nos vamos y nos vamos a casa?
Estudios recientes han demostrado que ChatGPT, una IA con la notable capacidad de imitar la escritura humana, ha aprobado algunos de los exámenes profesionales más difíciles de Estados Unidos, lo que genera preocupaciones de que pronto podría eliminar muchos trabajos administrativos. Con esto, se ha comprobado que ChatGPT puede pasar el examen de licencia médica e incluso la barra .
Bueno, probablemente no (lo cual es una pena). La web todavía está viva y bien, y Google se ha estado moviendo en esta dirección con la introducción de fragmentos y Google OneBox durante algún tiempo. Pero este proceso, sin duda, se acelerará con la forma en que esta nueva generación de buscadores muestre la información. Microsoft afirma que los usuarios pueden simplemente hacer clic para leer más porque hace referencia a sus fuentes. Sin embargo, como ya se mencionó, la idea fundamental detrás de estos nuevos motores de búsqueda es que funcionan mejor que los antiguos. Destilan y encapsulan. Eliminan la necesidad de lecturas adicionales. Microsoft no puede afirmar que su presencia representa una ruptura fundamental con el pasado y, al mismo tiempo, una perpetuación de instituciones obsoletas.
Pero nadie puede predecir lo que sucederá a continuación. Tal vez los motores de búsqueda de IA sigan dirigiendo el tráfico a sitios web que ofrecen recetas, consejos de jardinería, orientación sobre bricolaje, noticias, comparaciones de motores fuera de borda, índices de patrones de tejido y todas las otras innumerables fuentes de información confiable y útil que los humanos recopilan y las máquinas rastrean. O tal vez esto señale el fin de todo el paradigma de ingresos respaldado por anuncios de la web. Después de que los chatbots hayan revisado los restos, tal vez aparezca algo nuevo. Incluso podría ser mejor, ¿quién sabe?