La IA como nueva normalidad. ¿Vivimos en un bucle de bots?

TODA LA INFORMACIÓN Y TIPS PARA CONTENIDOS CON IA: ACCEDÁ AHORA A NUESTRO NEWSLETTER SEMANAL.

¿Recuerdas las solicitudes de empleo? Ya sabes, escribías un currículum y una carta de presentación. Alguien los leía. Buscabas una camisa elegante y tratabas de impresionar al entrevistador. Quizás un comentario ingenioso o una pregunta sobre tu experiencia como jugador aficionado de bolos te ayudarían a conseguir el puesto. O quizás nunca volvías a saber de ti.

Todo eso está cambiando . Cuando Christian Vinson solicitó empleo en finanzas este año, sabía que en realidad estaba haciendo una prueba para la inteligencia artificial. Muchas empresas ahora usan software de selección para revisar montones de solicitudes, así que dedicó casi 10 horas a enseñar a dos chatbots de IA sobre su experiencia laboral. Ingresó detalles sobre su educación, una pasantía en banca y cinco años en el ejército. Luego, les indicó a los bots que adaptaran su carta de presentación a cientos de ofertas de trabajo.

La IA había redactado sus solicitudes y también las estaba leyendo: un círculo vicioso. «Esta es la nueva normalidad», afirma Vinson, de 30 años, quien consiguió un trabajo en un banco de inversión en Nueva York.

Vivimos en un mundo donde las herramientas de IA se han convertido en el centro de una cantidad asombrosa de interacciones profesionales, académicas y personales. Últimamente, estos chatbots y agentes han estado haciendo más que simplemente hablar con nosotros. Los estudiantes escriben ensayos con ChatGPT y los profesores usan IA para calificarlos . Los trabajadores envían correos electrónicos extensos generados por IA a sus colegas, quienes responden con largos textos de chatbot. Los presentadores de podcasts de IA conversan con invitados de IA sobre temas como los precios de la gasolina, la guerra de Irán y la inteligencia artificial. La tecnología quiere llevar todo esto aún más lejos: en marzo, Meta adquirió una red social diseñada para que los bots hablen entre sí .

La teoría de la internet muerta, un concepto popular en los círculos tecnológicos, sostiene que la mayor parte del tráfico digital acabará siendo software, dejando a los humanos como una voz minoritaria. Ahora podríamos tener una consecuencia de esa predicción —llamémosla bucle de bots— en la que los humanos, tanto al final como al final de una interacción, ceden su rol a la inteligencia artificial. Estos intercambios recursivos pueden resultar inquietantes y propensos a errores, donde un solo fallo rebota sin corregirse una y otra vez. Más extraño aún, invierten nuestra dinámica conversacional, convirtiendo a los chatbots en interlocutores y a los humanos en sus facilitadores.

Según a quién se le pregunte, los bucles de bots pueden ser banales, distópicos o realmente útiles. Independientemente de la opinión que se tenga al respecto, los investigadores afirman que veremos bucles de bots con mucha más frecuencia a medida que deleguemos en los sistemas de IA la tarea de cumplir nuestras órdenes.

Algún día, en un futuro no muy lejano, se te romperá una tubería y necesitarás un fontanero con urgencia. Quizás llames tú mismo a diez fontaneros para preguntar por sus precios, pero tal vez delegues todas esas llamadas a un asistente digital personal capaz de realizar tareas como enviar correos electrónicos, comprar billetes de avión y escribir código. Mientras tanto, los fontaneros podrían tener dificultades para atender la avalancha de llamadas de asistentes de IA incansables, afirma Jiaxin Pei, profesor adjunto de la Facultad de Información de la Universidad de Texas en Austin. Quizás incluso asignen a un agente propio para que actúe como recepcionista virtual. «Estamos creando un círculo vicioso», comenta Pei. ¿Cómo afectará todo esto a nuestra forma de interactuar?

Visto desde una perspectiva, la historia de la humanidad es una larga sucesión de pánicos ante el potencial de las nuevas tecnologías para alterar nuestra comunicación. Sócrates temía que la escritura destruyera nuestra memoria, algo que solo conocemos porque Platón lo escribió. Los críticos de principios del siglo XX argumentaron que el teléfono representaba una amenaza para la civilidad . Repetidamente, los detractores han predicho que la calidad de nuestras interacciones podría verse afectada por la comodidad moderna. El autor de un artículo de 1994 en The New York Times argumentó que el correo electrónico era «tan atractivo y fácil que amenaza con anular su utilidad por su gran volumen y falta de consideración», aunque admitió que tenía sus ventajas: «No hay sellos que lamer».

Ninguna de estas innovaciones acabó con el debate productivo, aunque cada una ha modificado su naturaleza. Ahora podemos intercambiar mensajes con más personas que nunca sin necesidad de estar físicamente presentes. Como resultado, los investigadores creen que, en realidad, hablamos menos entre nosotros . Muchas de nuestras conversaciones tienen lugar en plataformas que incentivan ciertos tipos de intercambios, especialmente aquellos acalorados, extravagantes o que buscan captar nuestra atención para beneficio económico de dichas plataformas.

Sin embargo, la IA se diferencia de estos avances anteriores. Mientras que el correo electrónico transmite mensajes entre personas, los chatbots las imitan, e incluso podrían reemplazarlas. De repente, los humanos pueden decidir si prefieren conversar con una persona o con un programa que la simula. Muchas personas están optando por recurrir a un chatbot para obtener asesoramiento financiero, diagnósticos médicos o compañía.

La gente ya utiliza avatares generados por IA para que hablen por ellos. Cuando Justin Lester, un pastor del Área de la Bahía, no está disponible, la gente puede comunicarse con su "gemelo digital". El siguiente paso, muy probablemente, sea un futuro en el que los propios gemelos digitales de las personas puedan comunicarse con el de Lester. Cada vez más, nuestros intermediarios digitales confluirán. Hablaremos con nuestros bots, y nuestros bots hablarán entre sí. Los directores ejecutivos han creado avatares con IA que pueden reunirse con sus empleados. ¿Cuánto tiempo pasará antes de que sus subordinados también envíen sus avatares a esas reuniones?

Mucha gente ya vive en este extraño mundo nuevo. He pasado los últimos meses entrevistándolos. Había un estudiante de posgrado que estaba terminando un trabajo con IA que era calificado por los asistentes virtuales de su profesor. Había un ejecutivo de telecomunicaciones que había notado que los clientes enviaban agentes de voz con IA para discutir con el sistema de atención al cliente con IA de su empresa. Había un hombre que usaba un chatbot para redactar mensajes en una aplicación de citas a una mujer que parecía estar haciendo exactamente lo mismo. "¿Cuánto tiempo más vamos a chatear por chat?", escribió finalmente. Ella nunca respondió.

La mayoría de estas personas reconocieron cierta superficialidad en las interacciones, que seguían los contornos básicos de una conversación humana, pero sin la textura adecuada. Un solo bot genera montañas de texto que deslumbran por su falsedad, como bisutería. Si se juntan dos de ellos en una conversación, generan un flujo interminable de diálogo que sigue todas las reglas, pero que aun así destaca por lo que le falta: curiosidad, empatía, experiencia real.

Los riesgos de estos bucles aún se están vislumbrando, pero un gran problema es la frecuencia con la que los chatbots cometen errores. Cuando dos sistemas de IA interactúan, especialmente aquellos que utilizan los mismos modelos de lenguaje complejos, pueden pasar por alto los errores del otro y, con el tiempo, amplificarlos, explica Soheil Feizi, profesor asociado de informática en la Universidad de Maryland. "Simplemente comparten los mismos puntos ciegos", afirma.

Un estudio reciente de un investigador de la Facultad de Medicina de Harvard analizó cómo podría desarrollarse esta situación en un entorno hospitalario. Imaginemos que una herramienta de IA se encarga de analizar radiografías para identificar fracturas. Esta herramienta envía una evaluación a otra herramienta de IA que asigna las habitaciones y a una tercera que determina el orden de tratamiento del paciente. Si una exploración inicial es incorrecta y nunca se somete a verificación humana, el error podría propagarse por toda la red y afectar al paciente, al médico y a su clínica.

Un problema aún más insidioso es que los sistemas de inteligencia artificial parecen tener un sesgo a favor de su propio trabajo . Un estudio reveló que los sistemas de IA que revisan currículos preferían las solicitudes escritas por IA a las escritas por humanos. (De esta manera, Vinson, el solicitante de empleo aficionado a los chatbots, podría haber mejorado sus propias posibilidades). Este fenómeno ya podría estar causando estragos en el proceso de admisión universitaria, donde algunas instituciones utilizan lectores de ensayos con IA para calificar las solicitudes que, sin duda, suelen ser generadas por chatbots.

A pesar de estas deficiencias, Sarah Davis, antropóloga cultural y decana del St. John's College en Santa Fe, Nuevo México, se pregunta si las personas podrían acostumbrarse tanto a la fluidez de las interacciones entre IA que perderían la tolerancia a la necesaria imprevisibilidad de las relaciones humanas. Le preocupa que los chatbots permitan una «facilidad que nos lleve a convertirnos en peores versiones de nosotros mismos, y una especie de alienación, una falta de conexión que nos obliga a afrontar la fricción».

Podría resultar tentador pensar en el ciclo de los bots como una escala en el camino hacia un mundo totalmente autónomo. Quizás las "personas falsas" generadas por IA, como las denominó el filósofo Daniel C. Dennett , colaboren para crear aún más personas falsas, explotando nuestra dependencia de los sistemas de IA y poniendo en riesgo la civilización humana. El resultado más probable es que la proporción de interacciones entre humanos disminuya a medida que aumente la de interacciones entre bots, una profunda dilución que afecta nuestra forma de interactuar con el mundo.

En ese caso, la voz humana al teléfono, que antes era una expectativa razonable, podría convertirse en un privilegio escaso, algo parecido a un bien de lujo . Claro, puedes hablar con una recepcionista de carne y hueso, pero te costará más. Paradójicamente, quienes más puedan permitirse ese lujo podrían ser precisamente quienes se enriquecen con el auge de la IA. ¿Utilizarán sus ganancias para acceder al tipo de conversaciones que están haciendo más raras para los demás? Ese podría ser el círculo vicioso más insidioso de todos.

Callie Holtermann escribe sobre estilo y cultura pop para The Times.