Inteligencia artificial y gobiernos: el caso Brasil

Cuando Josélia de Brito, una ex trabajadora de la caña de azúcar de un pueblo remoto en el noreste de Brasil, solicitó sus beneficios de jubilación a través de la aplicación obligatoria del gobierno, esperaba que su reclamo se procesara rápidamente. En cambio, su solicitud fue rechazada instantáneamente porque el sistema la identificó como un hombre.

Fue especialmente frustrante para de Brito, que había estado solicitando el pago por enfermedad durante años a través de la aplicación impulsada por inteligencia artificial del Instituto Nacional de Seguridad Social, Meu INSS.

De Brito había trabajado en los campos desde que era adolescente, y sufría de una hernia de disco, escoliosis y fibromialgia, enfermedades crónicas que la hicieron elegible para los beneficios sociales. Pero incluso errores menores en sus reclamaciones presentadas a través de la aplicación habían llevado a numerosos rechazos, con pocas opciones de recurso.

"Tengo todos los documentos que prueban mi estado de salud, que lo demuestran todo, y [el beneficio] todavía se niega. Es una humillación", dijo de Brito, de 55 años, que es analfabeta y tuvo que pedirle a su hija que presentara las reclamaciones, a Rest of World. Es muy difícil para los trabajadores rurales, en particular, que "han trabajado durante tanto tiempo", dijo.

El instituto de seguridad social de Brasil, conocido como INSS, agregó IA a su aplicación en 2018 en un esfuerzo por reducir la burocracia y acelerar las reclamaciones. La oficina, conocida por sus largas colas y tiempos de espera, tenía alrededor de 2 millones de solicitudes pendientes para todo, desde citas médicas hasta pago por enfermedad, pensiones y beneficios de jubilación en ese momento. Si bien la herramienta impulsada por IA ha ayudado desde entonces a procesar miles de reclamaciones básicas, también ha rechazado las solicitudes de cientos de personas como de Brito, que viven en áreas remotas y tienen poca alfabetización digital, por errores menores.

El gobierno tiene razón al digitalizar sus sistemas para mejorar la eficiencia, pero eso ha tenido un costo, dijo Edjane Rodrigues, secretaria de políticas sociales de la Confederación Nacional de Trabajadores en la Agricultura, a Rest of World.

"Si el gobierno adopta este tipo de servicio para acelerar los beneficios para la gente, esto es bueno. No estamos en contra", dijo ella. Pero, particularmente entre los trabajadores agrícolas, las reclamaciones pueden ser complejas debido a la naturaleza de su trabajo, dijo, refiriéndose a casos que requieren papeleo adicional, como cuando un terreno es propiedad de un individuo pero trabajado por un grupo de familias. "Hay muchas peculiaridades en la agricultura, y los trabajadores rurales están siendo especialmente perjudicados" por la aplicación, según Rodrigues.

"Cada decisión automatizada se basa en criterios legales específicos, asegurando que se respeten las normas establecidas por la legislación de seguridad social", dijo un portavoz del INSS a Rest of World. "La automatización no funciona de manera arbitraria. En cambio, sigue reglas y regulaciones claras, que reflejan los estándares esperados aplicados en el análisis convencional".

Los gobiernos de toda América Latina han estado introduciendo IA para mejorar sus procesos. El año pasado, Argentina comenzó a usar ChatGPT para redactar sentencias judiciales, una medida que, según los funcionarios, ayudó a reducir los costos legales y a reducir los tiempos de procesamiento. Costa Rica se ha asociado con Microsoft para lanzar una herramienta de IA para optimizar la recopilación de datos fiscales y verificar el fraude en los recibos de impuestos digitales. El Salvador estableció recientemente un laboratorio de IA para desarrollar herramientas para servicios gubernamentales.

Pero si bien algunos de estos esfuerzos han dado resultados prometedores, los expertos han expresado su preocupación por el riesgo de que los funcionarios con poco conocimiento tecnológico apliquen estas herramientas sin transparencia ni soluciones alternativas. El Salvador, por ejemplo, se clasificó mal en gobernanza y ética, infraestructura y capital humano en el Índice de Preparación de la IA del Gobierno 2024 de Oxford Insights. En otros lugares, los sistemas impulsados por IA desde los Países Bajos hasta la India han sido culpados por la vigilancia y la negación de los beneficios sociales.

En Brasil, la IA se está utilizando para rastrear el absentismo escolar entre los escolares, proporcionar datos biométricos para los servicios ciudadanos e impulsar un chatbot que explica los archivos del gobierno.

La aplicación Meu INSS fue creada por Dataprev, una empresa estatal que proporciona soluciones tecnológicas, en particular sus programas sociales. Utiliza visión por ordenador, un campo de la IA que permite a las computadoras entender las imágenes, y el procesamiento del lenguaje natural para escanear datos en documentos cargados por los asegurados.

En enero, Dataprev anunció que invertiría aproximadamente 10,5 millones de dólares para mejorar el análisis de datos de la aplicación y las capacidades de detección de fraude. Un mes después, introdujo una nueva función de IA para personalizar aún más sus ofertas para los usuarios. El INSS tiene como objetivo tener el 55 % de todas las presentaciones que recibe a través de su aplicación impulsada por IA para finales de 2025. Pero a algunos usuarios les preocupa que una mayor dependencia de esta tecnología los condene a un proceso aún más laberíntino.

Los usuarios que no estén contentos con las decisiones pueden apelar a través de una junta interna de recursos legales, lo que también debe hacerse a través de Meu INSS. Esperan, en promedio, 278 días para obtener una respuesta, según el INSS.

Solicitudes de beneficios pendientes en Brasil

Muchos solicitantes de beneficios se enfrentan a largos retrasos.

El sistema ha mejorado: hubo alrededor de 34.300 beneficios denegados para los trabajadores rurales en enero, por debajo de alrededor de 53.400 del año anterior. Pero todavía no es capaz de analizar las presentaciones más complejas de los trabajadores agrícolas y aquellos cuyos trabajos implican condiciones más peligrosas y papeleo adicional, dijo Rodrigues. Muchas de estas peticiones presentadas por trabajadores rurales son rechazadas; estos casos deberían ser revisados por un humano en su lugar, dijo.

"Varios de ellos no están registrados en estas bases de datos [gubernamentales], o no tienen suficientes [datos] allí", dijo Jane Berwanger, directora del Instituto Brasileño de Derecho de Seguridad Social, una institución de derechos civiles, a Rest of World. Si estas reclamaciones no se revisan manualmente, "se convertirán en batallas legales solo porque no se analizaron correcta o suficientemente".

La aplicación permite a los usuarios corregir información que podría haber sido incorrecta en sus peticiones anteriores, dijo el portavoz del INSS a Rest of World. Algunos asegurados han estado han hecho un mal uso del programa, presentando múltiples solicitudes con la esperanza de obtener resultados diferentes, dijo el portavoz.

Meu INSS, que tiene casi 84 millones de visitas cada mes, ha sido elogiadopor la Asociación Internacional de Seguridad Social como una "historia de éxito en la política de transformación digital" en Brasil. Pero la aplicación permanece fuera del alcance de algunos de los trabajadores más vulnerables del país, y puede dejarlos más atrás, advirtieron los analistas.

El analfabetismo en las zonas rurales de Brasil fue casi un 15 % en 2022, tres veces mayor que en las zonas urbanas. "La gente de aquí no puede [ni siquiera] trabajar con Gmail, Facebook, Instagram", dijo Francisco Santana, presidente del Sindicato de Trabajadores Rurales en Barra do Corda, en el estado de Maranhão, a Rest of World. "Los procesos están cada vez más automatizados, y la sociedad no estaba preparada para ello, especialmente más lejos, en las afueras, para las personas que viven en áreas rurales".

Para de Brito, el lanzamiento de la aplicación fue al principio un alivio, ya que la oficina del INSS más cercana estaba a cuatro horas en autobús. Pero incluso en las pocas ocasiones en que la plataforma aprobó sus solicitudes de pago por enfermedad, que ascendía a unos 260 dólares al mes, de Brito tuvo que esperar hasta cuatro meses para que el instituto estableciera un examen médico para probar su condición.

Los resultados de las pruebas, programadas en diferentes ciudades que a menudo requerían que viajara todo el día, generalmente se retrasaban, dejando a de Brito esperando aún más tiempo para que llegara el pago de su beneficio, dijo.

La solicitud de jubilación rechazada que había presentado en febrero fue aprobada en marzo, pero solo por una conexión que tenía con la Confederación Nacional de Trabajadores en la Agricultura, dijo. Su caso fue directamente a los directores del INSS, que identificaron y corrigieron el error en la aplicación.

"Si tuviera que solicitar [beneficios] de nuevo, no lo haría a través de la aplicación, ya que es demasiado complejo y muy malo", dijo de Brito. "No me gusta tanto".