Chatbot para contar historias

Hola, soy Eva. Estaré en prisión durante diez meses. 

Así comienza la historia (o más bien la conversación) con Eva, un chatbot desarrollado por el medio independiente y digital El Surtidor de Paraguay para encontrar una forma diferente de contar la historia de cómo las comunidades, especialmente las mujeres, se ven afectadas por el narcotráfico. 

Según El Surtidor , más  de 400 mujeres están en prisión por tráfico de drogas y delitos conexos. Cuatro de cada diez presas en el país están acusadas de violar alguna ley de estupefacientes. 

La reportera de El Surti, Juliana Quintana, lleva años informando sobre este tema , entrevistando a numerosas mujeres encarceladas por delitos de drogas y a aquellas que han cumplido sus condenas. 

Sin embargo, utilizar sus reportajes para ayudar a construir un chatbot que cuente la historia de estas mujeres es un nuevo experimento para Quintana y la redacción. Las audiencias pueden elegir qué preguntas hacerle a Eva, lo que las lleva por uno de varios caminos conversacionales para revelar diferentes aspectos de su historia. La redacción espera que sirva para “visibilizar la desproporcionalidad en el tratamiento de los delitos que surgen de las políticas punitivas de drogas” y “reflexionar sobre las circunstancias de las mujeres privadas de libertad que implican, principalmente, discriminación, exclusión y violencia machista”. 

Hablé con Quintana y el periodista, consultor UX y diseñador conversacional Sebastián Hacher para saber más. 

P. Hábleme del narcotráfico y el microtráfico [el tráfico de pequeñas cantidades de droga] en Paraguay. ¿Por qué es un tema importante para El Surti ? 

JQ: Hay una ironía en la famosa guerra contra las drogas en Paraguay: encarcela a las mujeres pero ignora a quienes se enriquecen e incluso ocupan puestos dentro del Estado en esta narcocultura. 

El microtráfico es complicado porque las mujeres marginadas muchas veces no tienen muchas oportunidades laborales y el Estado no está interesado en ayudarlas. Tienen hijos y quizás su pareja las abandonó o abusó de ellas. Muchas mujeres me dijeron que al principio no querían traficar drogas, pero que sus parejas las presionaron para que lo hicieran. Se sienten responsables de lo que hicieron, pero te das cuenta de que esto es parte de un discurso más amplio. No se habla de la responsabilidad del Estado o de la ausencia de políticas públicas. 

P. ¿Por qué crear un chatbot? 

JQ: Hay muchos artículos excelentes sobre la narcocultura, pero queríamos encontrar un nuevo ángulo con una nueva narrativa desde una perspectiva de género y mostrar las consecuencias para las mujeres involucradas y las personas poderosas que se enriquecen con las drogas. 

Las personas pueden tener una experiencia pasiva con un artículo. Con el chatbot, es como si estuvieras sentado en una mesa con una mujer encarcelada y manteniendo una conversación íntima. Las respuestas son las palabras exactas que ella utilizó [en una entrevista] con muy poca interferencia editorial. 

SA: Cuando conversas con Eva, estás conversando con una persona real. Las experiencias conversacionales permiten que la audiencia construya la parte narrativa de la noticia. Puedes co-diseñar la trayectoria de la historia con la audiencia. 

Eva es una herramienta que permite a la gente entender cómo llegó esa persona allí. Todos los días lees historias como esta y aquí estás conociendo la otra parte de la historia. 

P. Juliana entrevistó a 10 mujeres para este proyecto. La mayoría de las entrevistas se llevaron a cabo en la prisión de Buen Pastor en Asunción, un lugar al que no es fácil acceder. El chatbot Eva se basa en las respuestas de una de estas mujeres, cuyo nombre ha sido cambiado. Cuéntame sobre el proceso de entrevistas y cómo encontraste a Eva.  

JQ: A cada entrevistado se le hicieron más de 50 preguntas del mismo cuestionario [para proporcionar datos estructurados que alimentaran el chatbot]. Para diseñar el cuestionario, comenzamos con lo que preguntaría un miembro conservador de la audiencia o alguien que maltrataría a Eva [para enfatizar los elementos de la historia de Eva]. 

Tuvimos que imaginar muchas preguntas que el público podría hacer, como "¿Cuál es tu comida favorita?". A los entrevistados les resultaron divertidas preguntas como ésta. Hicimos preguntas sobre educación, salud y familia, así como sobre cómo imaginaban su futuro y su vida en prisión. 

Traté de elegir un tema que fuera diferente en términos de lo que la gente normalmente imagina como sujeto de historias sobre crimen organizado y trata de personas, pero que también fuera a "representar" una gran proporción de mujeres que están encarceladas. 

La entrevista de Eva fue la más larga y no estaba prevista al principio. Fui clara con ella sobre el impacto y el alcance del proyecto. Quería exponer su historia para sentirse más humana. Nunca antes la habían entrevistado. 

P. La entrevista que se utilizó para el chatbot duró tres horas. ¿Cuáles fueron los siguientes pasos y cómo se creó el chatbot? 

SA: Necesitábamos entrevistas extensas para obtener la información sobre la que construir el flujo de conversación. Cada palabra de Eva era una pieza de oro que nos entregaba. Nuestra misión era encargarnos de eso. Diseñamos un flujo muy largo de preguntas y respuestas [utilizando Voiceflow, una herramienta para construir agentes de IA]. 

El proceso de diseño llevó de dos a tres meses porque queríamos crear la experiencia de una conversación natural con Eva sin usar GenAI. Todo en el chatbot está escrito por humanos. Hay alrededor de 55 tipos de preguntas con cientos de variaciones que la audiencia puede hacer y el chatbot tiene 120 respuestas. Usamos inteligencia artificial [ChatGPT 3.5] para realizar el procesamiento del lenguaje natural (PLN) y entrenar al chatbot para que comprenda las diferentes formas en que la audiencia puede hacer la misma pregunta. 

JQ: Transcribí toda la entrevista manualmente porque la IA no entiende el idioma utilizado, especialmente el yopará [una mezcla de español y guaraní paraguayo, una lengua indígena]. Envié la transcripción a Sebastián y al codiseñador Axel Marazzi, quienes entendieron los detalles que no se pudieron incluir en las respuestas de Eva. 

Luego, el texto se importó al flujo de trabajo e hicimos algunas pruebas internas para ver si la IA se usaría para preguntas y respuestas o solo en las preguntas. Decidimos que la IA solo se podía usar para ayudarnos a escribir las preguntas para los usuarios del chatbot y seleccionar las respuestas porque nos preocupaban las alucinaciones o que el uso de la IA para construir las respuestas pudiera convertir la experiencia de Eva en clichés. No queríamos que la IA contribuyera a hacer invisible a Paraguay o su rica historia. 

Si un miembro de la audiencia hace una pregunta que Eva no sabe cómo responder, ella dice algo como: "No entendí. Creo que estoy escuchando mal. ¿Volvemos?" o redirige la conversación hacia un tema relacionado. Ella sólo está capacitada para responder preguntas que estén relacionadas con su historia y su situación. Por eso diseñamos un camino sugerido que lleva a la audiencia a hacer preguntas que realmente se relacionan con esta investigación. 

P. ¿Hubo algún desafío al crear un chatbot para contar una historia sobre este tema? 

JQ: Nos centramos en proteger a nuestras fuentes, cambiarles los nombres y los antecedentes. Están pasando por el proceso legal y tienen que contar sus historias una y otra vez. El objetivo de nuestro trabajo no es interferir en sus vidas, sino ayudarlos. 

La mayoría de las mujeres encarceladas en El Pastor hablan yopará y algo de guaraní. En el chatbot, queríamos preservar la forma en que habla Eva y la forma en que hablamos en Paraguay, por lo que trabajamos mucho en su voz. Si el chatbot usara IA para generar las respuestas de Eva, podría neutralizar el idioma y suavizar su carácter regional. Somos conscientes de que esto podría limitarnos a una audiencia paraguaya, pero Eva es paraguaya. 

P. ¿Qué comentarios ha obtenido el chatbot de las audiencias? 

SA: Lanzamos el servicio en septiembre y hemos tenido más de 10.000 interacciones con Eva. El chatbot ha entendido el 85% de lo que la gente pregunta. Hemos leído muchas de las conversaciones (quizás unas 200) porque así podemos mejorar el modelo de Eva y añadir algo de contenido. 

Hemos intentado ser muy humanos con la historia de Eva. Alrededor del 55% de la gente le pregunta por su familia. La gente escribe "ciao" o "te deseo todo lo mejor para el futuro". Saben que están hablando con un chatbot pero aun así le dan las gracias. 

P. ¿Qué influencia ha tenido este proyecto en sus ideas sobre la IA para la narración de historias en el periodismo? 

JQ: No sé si se me hubiera ocurrido esta idea de contar la historia de una mujer encarcelada por tráfico de drogas. Tenemos que ser muy cuidadosos con [cómo utilizamos la IA en] la cobertura de mujeres o de derechos humanos. No queremos que la tecnología responda por estas personas o decida qué historias se van a contar. Creo que Eva ha demostrado que si eres muy, muy cuidadoso y quieres potenciar tu historia con IA, puedes hacerlo. Puedes usar muy poca IA y empezar con eso. Esta fue una exploración y creo que los medios de comunicación van a idear chatbots cada vez mejores para contar historias y nos daremos cuenta de dónde podemos mejorar la construcción, las entrevistas y la cobertura detrás de ellas.