Generación Alpha: los pre adolescentes vienen marcando el ritmo futuro.

Los jóvenes siempre se han sentido incomprendidos por sus padres, pero una nueva investigación muestra que la Generación Alfa también podría ser incomprendida por la IA.

 Un trabajo de investigación, escrito por Manisha Mehta, quien pronto cursará 9.º grado, y presentado hoy en la Conferencia ACM sobre Equidad, Responsabilidad y Transparencia en Atenas, muestra que la distintiva combinación de lenguaje de la Generación Alfa, influenciado por memes y videojuegos, podría dificultar la moderación automatizada utilizada por los modelos de lenguaje más populares.

El trabajo compara el desempeño de moderadores infantiles, padres y profesionales en la moderación de contenido con el de cuatro importantes modelos de aprendizaje a distancia (LLM): GPT-4 de OpenAI, Claude de Anthropic, Gemini de Google y Llama 3 de Meta. Se evaluó la comprensión de las frases de la Generación Alfa por parte de cada grupo y modelo de IA, así como su capacidad para reconocer el contexto de los comentarios y analizar los posibles riesgos de seguridad.

Mehta, quien comenzará noveno grado en otoño, reclutó a 24 de sus amigos para crear un conjunto de datos de 100 frases de la "Generación Alfa". Esto incluía expresiones que podían ser burlonas o alentadoras según el contexto, como "déjalo cocinar" y "se lo tragó", así como expresiones de videojuegos y redes sociales como "me pusieron en proporción", "asegura la bolsa" y "sigma".

“Nuestra tesis principal era que la Generación Alfa no cuenta con un sistema fiable de moderación de contenido en línea”, me contó Mehta por Zoom, usando la laptop de su padre. Se describió a sí misma como una auténtica Gen Alfa y conoció a su coautor (adulto) el pasado agosto, quien supervisa el doctorado de su padre. Ha visto a amigos sufrir acoso en línea y le preocupa que los padres no sean conscientes de cómo los estilos de comunicación de los jóvenes los exponen a riesgos. “Y hay reticencia a pedir ayuda a sus tutores porque simplemente creen que sus padres no están lo suficientemente familiarizados con esa cultura”, afirma.

Dadas las frases de la Generación Alfa, “todos los evaluadores no pertenecientes a la Generación Alfa, humanos e IA, tuvieron dificultades significativas” en las categorías de “Comprensión básica” (¿qué significa una frase?), “Comprensión contextual” (¿significa algo diferente en distintos contextos?) y “Riesgo de seguridad” (¿es tóxico?). Esto fue particularmente cierto para expresiones emergentes como "skibidi" y "gyatt", con frases que pueden usarse con ironía o de diferentes maneras, o con insultos ocultos en comentarios inocentes. Parte de esto se debe a la inusualmente rápida evolución del lenguaje de la Generación Alfa; un modelo entrenado con la jerga más de moda podría ser totalmente falso si se publica en seis meses.

En las pruebas, los niños reconocieron ampliamente el significado de las frases de su generación, con puntuaciones del 98 %, 96 % y 92 % en cada una de las tres categorías.

Sin embargo, tanto los padres como los moderadores profesionales mostraron limitaciones significativas, según el estudio; los padres obtuvieron puntuaciones del 68 %, 42 % y 35 % en esas categorías, mientras que los moderadores profesionales apenas obtuvieron mejores resultados, con un 72 %, 45 % y 38 %. Las implicaciones reales de estas cifras significan que un padre podría reconocer solo un tercio de las veces que su hijo sufre acoso en sus comentarios de Instagram.
Los cuatro LLM obtuvieron resultados similares a los de los padres, lo que podría indicar que los datos utilizados para entrenar los modelos podrían basarse en ejemplos lingüísticos más maduros.

Esto tiene sentido, ya que casi todos los novelistas son mayores de 15 años, pero también significa que las IA de moderación de contenido encargadas de mantener la seguridad en línea de los jóvenes podrían no estar lingüísticamente preparadas para la tarea.

Mehta explica que la Generación Alfa, nacida entre 2010 y el año pasado, es la primera cohorte nacida completamente después del iPhone. Pasan una cantidad sin precedentes de su primera infancia en línea, donde sus interacciones no pueden supervisarse eficazmente. Y, debido a la enorme cantidad de contenido que producen, gran parte de la moderación de los riesgos a los que se enfrentan se delega necesariamente en herramientas de moderación automática ineficaces con escasa supervisión parental. En un contexto de creciente exposición al contenido en línea, los hábitos lingüísticos únicos de la Generación Alfa plantean desafíos únicos para la seguridad.