El algoritmo al Poder, la crisis de la Web 2.0
7/01/2022

El algoritmo al Poder, la crisis de la Web 2.0

Compartí la noticia

MIENTRAS LEES Estas palabras, es probable que haya docenas de algoritmos que hacen predicciones sobre usted. Probablemente fue un algoritmo que determinó que usted estaría expuesto a este artículo porque predijo que lo leería. Las predicciones algorítmicas pueden determinar si obtiene un préstamo o un trabajo o un apartamento o un seguro , y mucho más.  Nota publicada en el medio especializado Wired

Estos análisis predictivos están conquistando cada vez más esferas de la vida. Y, sin embargo, nadie le ha pedido permiso para hacer tales previsiones. Ninguna agencia gubernamental los supervisa. Nadie te está informando sobre las profecías que determinan tu destino. Peor aún, una búsqueda a través de la literatura académica de la ética de la predicción muestra que es un campo de conocimiento poco explorado. Como sociedad, no hemos pensado en las implicaciones éticas de hacer predicciones sobre las personas, seres a los que se supone que están imbuidos de agencia y libre albedrío.

Desafiar las probabilidades está en el corazón de lo que significa ser humano. Nuestros mayores héroes son aquellos que desafiaron sus probabilidades: Abraham Lincoln, Mahatma Gandhi, Marie Curie, Helen Keller, Rosa Parks, Nelson Mandela y más. Todos tuvieron un gran éxito más allá de las expectativas. Cada maestro de escuela conoce a niños que han logrado más de lo que se repartió en sus cartas. Además de mejorar la línea de base de todos, queremos una sociedad que permita y estimule acciones que desafíen las probabilidades. Sin embargo, cuanto más usamos la inteligencia artificial para categorizar a las personas, predecir su futuro y tratarlas en consecuencia, más restringimos la agencia humana, lo que a su vez nos expondrá a riesgos inexplorados.

LOS SERES HUMANOS han estado usando la predicción desde antes del Oráculo de Delphi. Las guerras se libraron sobre la base de esas predicciones. En décadas más recientes, la predicción se ha utilizado para informar prácticas como el establecimiento de primas de seguros. Esos pronósticos tendían a referirse a grandes grupos de personas; por ejemplo, cuántas personas de cada 100.000 chocarían con sus coches. Algunas de esas personas serían más cuidadosas y afortunadas que otras, pero las primas eran aproximadamente homogéneas (excepto para categorías amplias como los grupos de edad) bajo el supuesto de que la puesta en común de riesgos permite que los costos más altos de los menos cuidadosos y afortunados sean compensados ​​por los relativamente más bajos. Costos de los cuidadosos y afortunados. Cuanto mayor era el grupo, más predecibles y estables eran las primas.

Hoy en día, la predicción se realiza principalmente a través de algoritmos de aprendizaje automático que utilizan estadísticas para completar los espacios en blanco de lo desconocido. Los algoritmos de texto utilizan enormes bases de datos de idiomas para predecir el final más plausible de una cadena de palabras. Los algoritmos de juego utilizan datos de juegos anteriores para predecir el mejor próximo movimiento posible. Y los algoritmos que se aplican al comportamiento humano utilizan datos históricos para inferir nuestro futuro: qué vamos a comprar, si estamos planeando cambiar de trabajo, si nos vamos a enfermar, si vamos a cometer un delito o a colapsar nuestro trabajo. carro. Bajo tal modelo, el seguro ya no se trata de agrupar el riesgo de un gran número de personas. Más bien, las predicciones se han individualizado y usted paga cada vez más a su manera, de acuerdo con sus puntajes de riesgo personales, lo que plantea un nuevo conjunto de preocupaciones éticas.
Una característica importante de las predicciones es que no describen la realidad. La previsión tiene que ver con el futuro, no con el presente, y el futuro es algo que aún no se ha hecho realidad. Una predicción es una suposición, y en ella se incorporan todo tipo de evaluaciones subjetivas y sesgos con respecto al riesgo y los valores. Puede haber pronósticos que sean más o menos precisos, sin duda, pero la relación entre probabilidad y realidad es mucho más tenue y éticamente problemática de lo que algunos suponen.

Las instituciones de hoy, sin embargo, a menudo intentan hacer pasar las predicciones como si fueran un modelo de realidad objetiva. E incluso cuando los pronósticos de la IA son meramente probabilísticos, a menudo se interpretan como deterministas en la práctica, en parte porque los seres humanos son malos para comprender la probabilidad y en parte porque los incentivos para evitar el riesgo terminan reforzando la predicción. (Por ejemplo, si se predice que alguien tiene un 75 por ciento de probabilidades de ser un mal empleado, las empresas no querrán correr el riesgo de contratarlo cuando tengan candidatos con una puntuación de riesgo más baja).

Las formas en que usamos las predicciones plantean cuestiones éticas que nos llevan a uno de los debates más antiguos de la filosofía: si hay un Dios omnisciente, ¿se puede decir que somos verdaderamente libres? Si Dios ya sabe todo lo que va a suceder, eso significa que lo que va a suceder está predeterminado; de lo contrario, sería incognoscible. La implicación es que nuestro sentimiento de libre albedrío no es más que eso: un sentimiento. Este punto de vista se llama fatalismo teológico.

Lo preocupante de este argumento, más allá de las preguntas sobre Dios, es la idea de que, si son posibles pronósticos precisos (independientemente de quién los haga), entonces lo que se ha pronosticado ya está determinado. En la era de la inteligencia artificial, esta preocupación se vuelve aún más importante, ya que el análisis predictivo se dirige constantemente a las personas.

Un problema ético importante es que al hacer pronósticos sobre el comportamiento humano, al igual que hacemos pronósticos sobre el clima, estamos tratando a las personas como cosas. Parte de lo que significa tratar a una persona con respeto es reconocer su albedrío y su capacidad para cambiarse a sí mismos y sus circunstancias. Si decidimos que sabemos cuál será el futuro de alguien antes de que llegue y lo tratamos en consecuencia, no le estamos dando la oportunidad de actuar libremente y desafiar las probabilidades de esa predicción.

Un segundo problema ético relacionado con la predicción del comportamiento humano es que al tratar a las personas como cosas, estamos creando profecías autocumplidas. Las predicciones rara vez son neutrales. La mayoría de las veces, el acto de predicción interviene en la realidad que pretende simplemente observar. Por ejemplo, cuando Facebook predice que una publicación se volverá viral, maximiza la exposición a esa publicación y, he aquí, la publicación se vuelve viral. O volvamos al ejemplo del algoritmo que determina que es poco probable que sea un buen empleado. Su incapacidad para conseguir un trabajo puede explicarse no por la precisión del algoritmo, sino porque el algoritmo mismo está recomendando que las empresas no lo contraten y las empresas sigan su consejo. Ser incluido en la lista negra por un algoritmo puede restringir severamente sus opciones en la vida.

Los filósofos que se preocuparon por el fatalismo teológico en el pasado se preocuparon de que si Dios es omnisciente y omnipotente, entonces es difícil no culpar a Dios por el mal. Como escribió David Hume, "reconciliar la [...] contingencia de las acciones humanas con la presciencia [...] y, sin embargo, liberar a la Deidad de ser el autor del pecado, hasta ahora se ha encontrado que excede todo el poder de la filosofía". En el caso de la IA, si los análisis predictivos están creando en parte la realidad que pretenden predecir, entonces son en parte responsables de las tendencias negativas que estamos experimentando en la era digital, desde el aumento de la desigualdad hasta la polarización , la desinformación y el daño a niños y adolescentes. .

EN ÚLTIMA INSTANCIA, el uso de análisis predictivos nos roba la oportunidad de tener un futuro abierto en el que podamos marcar la diferencia, y esto puede tener un impacto destructivo en la sociedad en general.

A lo largo de la historia, hemos ideado formas de vida que desafían el fatalismo. Hacemos todo lo posible para educar a nuestros hijos, con la esperanza de que todo lo que invirtamos los lleve a tener una vida mejor de la que tendrían de otra manera. Nos esforzamos por mejorar nuestros hábitos con la esperanza de gozar de una mejor salud. Elogiamos el buen comportamiento para fomentar más y para reconocer que las personas podrían haber tomado peores decisiones. Castigamos a los malhechores, al menos en parte para desincentivarlos a ellos y a otros de transgredir las normas sociales, y en parte para culpar a las personas que creemos que deberían haber actuado mejor. Nos esforzamos por estructurar nuestras sociedades sobre la base del mérito.

Ninguna de esas prácticas sociales que son tan fundamentales para nuestra forma de vida tendría sentido si pensáramos o nos comportáramos como si los destinos de las personas estuvieran sellados. El elogio y la culpa serían totalmente inapropiados. Imagínese un mundo sin calificaciones, multas, incentivos o castigos de ningún tipo; un mundo sin ningún intento de cambiar el futuro; un mundo en el que la gente vive en absoluta resignación a una profecía. Es casi impensable. Si se pudiera pronosticar con precisión el futuro de cada empresa, los mercados financieros tal como los conocemos colapsarían instantáneamente y, con ellos, nuestra economía. Aunque es poco probable que suceda esta posibilidad extrema, no queremos tomar un camino que nos acerque a ella.

Existe una tensión irresoluble entre la práctica de predecir el comportamiento humano y la creencia en el libre albedrío como parte de nuestra vida diaria. Un saludable grado de incertidumbre sobre lo que está por venir nos motiva a querer hacerlo mejor y mantiene abiertas las posibilidades. El deseo de no dejar ningún punto de datos potencial sin recopilar con el objetivo de trazar un mapa de nuestro futuro es incompatible con tratar a los individuos como dueños de sus propias vidas.

Tenemos que elegir entre tratar a los seres humanos como máquinas mecanicistas cuyo futuro puede y debe predecirse (en cuyo caso sería absurdo creer en la meritocracia), o tratarnos unos a otros como agentes (en cuyo caso, convertir a las personas en el objetivo de las predicciones individuales es algo que no tiene sentido. inapropiado). Nunca se nos ocurriría meter en la cárcel un tractor u otra máquina. Si los seres humanos son como tractores, tampoco deberíamos encarcelarlos. Si, por otro lado, los seres humanos son diferentes de las máquinas, y queremos seguir impartiendo alabanzas y culpas, entonces no deberíamos tratar a las personas como cosas prediciendo lo que van a hacer a continuación como si no tuvieran nada que decir. el asunto.

Las predicciones no son inocuas. El uso extensivo de análisis predictivo puede incluso cambiar la forma en que los seres humanos piensan sobre sí mismos. Es valioso creer en el libre albedrío. La investigación en psicología ha demostrado que socavar la confianza de las personas en el libre albedrío aumenta las trampas , la agresión y la conformidad y disminuye el comportamiento útil y los sentimientos positivos como la gratitud y la autenticidad.. Cuanto más utilizamos el análisis predictivo en las personas, más conceptualizamos a los seres humanos como nada más que el resultado de sus circunstancias, y es más probable que las personas se sientan desprovistas de agencia e impotentes frente a las dificultades. Cuanto menos le demos a la gente la oportunidad de desafiar las probabilidades, más culpables seremos de condenarlos a ellos y a la sociedad al statu quo.

Al decidir el destino de los seres humanos sobre la base de algoritmos predictivos, estamos convirtiendo a las personas en robots. La creatividad de la gente en las probabilidades desafiantes ha ayudado a salvar naciones enteras. Piense en Roosevelt y Churchill durante la Segunda Guerra Mundial. Superaron dificultades indescriptibles en su vida personal y profesional y ayudaron a salvar al mundo del totalitarismo en el proceso. La capacidad de desafiar las probabilidades es uno de los mayores dones de la humanidad, y lo socavamos bajo nuestro propio riesgo.

 

 

NOTICIAS IMPORTANTES

Suscribite a nuestro NewsLetter y recibí todas las noticias en tu mail