Bienvenidos a la nueva etapa de la desinformación y lo fake en el mundo.

Durante meses, el CEO de Meta, Mark Zuckerberg, se ha jactado de un plan para difundir inteligencia artificial en sus servicios, permitiendo que miles de millones de personas usen chatbots en todo, desde Facebook hasta sus gafas con motor VR.

Esa visión se está convirtiendo en una realidad. Zuckerberg anunció el jueves que la compañía integrará la última versión de su chatbot conversacional, Meta AI, en sus aplicaciones de redes sociales, permitir que la herramienta genere imágenes y responda preguntas de sus usuarios.

La compañía también presentó la última iteración de su gran modelo de lenguaje, Llama 3, un movimiento que pone a las herramientas de IA de Metaays en competencia con los principales chatbots de IA, incluidos OpenAiaks ChatGPT, Google Gemini, Microsoft Microsoft Copilot y Anthropicicss Claude. Zuckerberg promocionó a los renovados Meta AI producto como “, el asistente de IA más inteligente” que es de uso gratuito.

Pero los expertos advierten que el amplio uso del chatbot de IA puede amplificar los problemas que han plagado durante mucho tiempo las redes sociales de Metaa, incluida la desinformación dañina, el discurso de odio y el contenido extremista. También es probable que el generador de imágenes de la compañía genere debates sobre cómo elige representar la raza y el género al tocar escenarios imaginarios.

“Hubo un temor general sobre cómo los LLM interactuarían con las redes sociales y exacerbarían la desinformación, el discurso de odio, etc.,” dijo Anika Collier Navaroli, un miembro senior del Centro de Periodismo Digital de Columbiaia Tow y un ex alto funcionario de políticas de Twitter. “Y parece que siguen facilitando que las malas predicciones se hagan realidad.”

El portavoz de Meta, Kevin McAlister, dijo en un comunicado que es “nueva tecnología y que no siempre puede devolver la respuesta que pretendemos, que es la misma para todos los sistemas de IA generativos.

“Desde que lanzamos, weizve lanzó constantemente actualizaciones y mejoras a nuestros modelos y weayre continúa trabajando para mejorarlos,” agregó.

Mientras que Meta AI estará disponible en un nuevo independiente sitio web, también rellenará los cuadros de búsqueda en WhatsApp, Instagram, Facebook y Messenger. Meta también tiene experimentado con poner el asistente de IA en grupos en Facebook, donde se activa automáticamente responda preguntas en grupos si nadie ha respondido en una hora.

Meta ha enfrentado durante mucho tiempo el escrutinio de activistas y reguladores sobre cómo maneja el contenido peligroso sobre política, temas sociales y eventos actuales. Los chatbots impulsados ​​por inteligencia artificial, que se sabe que “alucinan” y dan respuestas falsas o no basadas en la realidad, podrían profundizar estas controversias.

Incluir los chatbots es "invitar a estas herramientas a opinar sobre temas que van desde la educación hasta la salud, desde la vivienda hasta la política local, todos ámbitos en los que los desarrolladores de tecnología de IA deberían actuar con cuidado", dijo Miranda Bogen, directora del Laboratorio de Gobernanza de IA del grupo de expertos. Centro para la Democracia y la Tecnología y exgerente de políticas de IA en Meta. "Si los desarrolladores no piensan en los contextos en los que se implementarán las herramientas de IA, estas herramientas no sólo serán inadecuadas para las tareas previstas, sino que también correrán el riesgo de causar confusión, interrupciones y daños".

El miércoles, la profesora de informática y asuntos públicos de Princeton, Aleksandra Korolova, publicó capturas de pantalla de X of Meta AI hablando en un grupo de Facebook para miles de padres de la ciudad de Nueva York. Respondiendo a una pregunta sobre programas para superdotados y talentosos, Meta AI afirmó ser un padre con experiencia en el sistema escolar de la ciudad y recomendó una escuela específica.

McAlister dijo que el producto está evolucionando y que algunas personas pueden comenzar a ver que “algunas respuestas de Meta AI se reemplazan con una nueva respuesta que dice 'Esta respuesta no fue útil y fue eliminada'. Continuaremos mejorando Meta AI'”.
Esta semana, un emprendedor que experimentaba con Meta AI en WhatsApp descubrió que había creado una publicación en un blog acusándolo de plagio, e incluso ofrecía una cita formal para la publicación, que no existe.

Los generadores de imágenes como el de Meta también tienen sus propios problemas. A principios de este mes, un reportero de Verge luchó para que Meta AI generara imágenes de una persona asiática con una persona blanca en pareja o como amigos, a pesar de dar al servicio indicaciones repetidas y específicas. En febrero, Google bloqueó la capacidad de generar imágenes de personas en su herramienta de inteligencia artificial Gemini después de que algunos usuarios la acusaran de tener prejuicios contra los blancos.

Ahora, Navaroli dijo que le preocupa que los sesgos incorporados en las herramientas de inteligencia artificial "se retroalimenten en las líneas de tiempo sociales", reforzando potencialmente esos sesgos en un "bucle de retroalimentación al infierno".

Korolova, profesora de Princeton, dijo que las afirmaciones potencialmente falsas de Meta AI en los grupos de Facebook son probablemente "sólo la punta del iceberg de los daños que Meta no anticipó".

"Sólo porque la tecnología es nueva, ¿deberíamos aceptar un listón más bajo para posibles daños?" —preguntó Korolova. "Esto suena como 'Muévete rápido y rompe cosas' otra vez".