Los niños se están educando con IA

El New York Times revisó estos clips, junto con más de 1.000 otros videos recomendados para niños pequeños en YouTube, y descubrió que el algoritmo promueve videos extraños, a menudo sin sentido, generados por IA desde canales que afirman enseñar a "niños pequeños" y "preescolares" sobre el alfabeto y los animales.

En algunos videos, animales y personas tienen caras deformadas o partes del cuepo extra. A menudo, los videos contienen texto ilegible. La mayoría de los clips tienen narrativas incoherentes, algunas plagadas de desinformación. Y ninguno dura más de 30 segundos, lo que deja poco tiempo para desarrollar ideas, tramas o cualquier repetición que a menudo sea necesaria para el aprendizaje.

https://youtube.com/shorts/k9i-7DZ2Vs8?si=oD6nUSzf96U2mhVe

Muchos de estos videos, producidos ahora con la ayuda de herramientas de inteligencia artificial y tutoriales en línea fácilmente disponibles, tienen millones de vistas y siguen aumentando, con canales que reproducen estos videos a un ritmo rápido, a veces incluso varias veces al día.

Muchas de las cuentas de YouTube que producen vídeos generados por IA, analizadas por The Times, se dirigen específicamente a los espectadores más jóvenes y a sus padres, promocionando sus canales como "educativos" en lugar de entretenimiento. Los creadores se benefician de este contenido con escasa supervisión por parte de YouTube.

“Para mí, la falta de sentido de estos videos es un gran problema porque solo captan la atención”, dijo la Dra. Jenny Radesky, pediatra del desarrollo conductual y profesora asociada de pediatría en la Facultad de Medicina de la Universidad de Michigan. “Y, en el peor de los casos, son tan fantásticos y están tan llenos de atención que sobrecargarán cognitivamente al niño”.

El Dr. Radesky y otros expresaron su preocupación por el contenido de IA hiperrealista, especialmente para niños que son demasiado pequeños para poder distinguir la fantasía de la realidad.

McCall Booth, psicólogo del desarrollo e investigador de la Universidad de Georgetown, dijo que a los niños “puede que en el futuro les resulte más difícil identificar contenido falso porque su esquema mental ya se ha adaptado para incluir acciones de personajes improbables, pero estéticamente realistas”.

Incluso en YouTube Kids, cuyo objetivo es ofrecer un entorno digital más controlado para niños, este tipo de vídeos con IA son fáciles de encontrar. El verano pasado, los vídeos de animales generados por IA zambulléndose en piscinas se convirtieron incluso en tendencia en TikTok .

Video

CréditoCrédito...Kids TV, via YouTube Kids
Rachel Barr, psicóloga del desarrollo y directora del Proyecto de Aprendizaje Temprano de la Universidad de Georgetown, señaló que este video de buceo en piscina en particular contiene mucha información contradictoria para los niños pequeños que pueden tener dificultades para descifrar qué es real.

El animal podría ser real. La piscina podría ser real, pero, de nuevo, existe una discrepancia entre lo que debería ocurrir en el mundo real y esas dos cosas. Por lo tanto, intentar relacionar estas dos cosas supondrá una gran carga cognitiva para el niño, dijo el Dr. Barr.

“Puede parecer inocuo”, añadió. “Pero eso no les va a ayudar a aprender ni sobre natación, ni sobre jirafas, ni sobre G.”

El Dr. Radesky explicó que los medios bien elaborados sirven como espejo y ayudan a reflejar el mundo que los niños ya conocen. Programas como "Mister Rogers' Neighborhood" o "Sesame Street", por ejemplo, intentan ayudar a comprender el mundo, no solo a través de letras y números, sino también a través de las emociones y el aprendizaje sobre las relaciones interpersonales.

La Academia Estadounidense de Pediatría publicó una guía para padres sobre cómo seleccionar contenido multimedia para sus hijos pequeños, en la que se les recomienda evitar contenido generado por IA o altamente sensacionalista. La guía también desaconseja el consumo de videos cortos.

Si bien aún no hay muchos estudios sobre cómo los medios de formato corto afectan a los niños pequeños, el Dr. Barr dijo que para los niños menores de 5 años, cuyos sistemas de atención aún están en desarrollo, los videos avanzan demasiado rápido y, por lo general, no son lo suficientemente largos como para incluir un contexto significativo o una trama de la historia.

El Times se centró principalmente en YouTube Shorts al realizar su análisis de estos videos de IA, ya que la mayoría de las herramientas de IA utilizan videos de formato corto de forma predeterminada y ofrecen opciones de formato vertical .

Durante varias semanas, The Times vio videos de canales infantiles populares de YouTube, como CoComelon, "Bluey" o Ms. Rachel, desde un navegador privado en diferentes momentos del día. Luego, revisamos los videos cortos recomendados por la plataforma en intervalos de 15 minutos para comprender mejor cómo el algoritmo inunda el feed con este contenido.

En una sesión de 15 minutos, tras ver el video "Wheels on the Bus" de CoComelon, más del 40 % de los videos parecían contener imágenes generadas por IA. El Times revisó manualmente cada uno de los videos; algunos mostraban claramente la etiqueta de YouTube de "contenido alterado o sintético", mientras que otros presentaban errores visuales u otras distorsiones de fondo.

El contenido generado por IA no siempre presentaba defectos evidentes, y algunos vídeos presentaban la suficiente fluidez como para evitar la detección humana. Para una mayor verificación de los vídeos, The Times utilizó un detector de IA para determinar con alta probabilidad que los vídeos, y en algunos casos la música y las voces, fueron generados por IA.

El Times también descubrió que los mismos videos o canales de IA, como este canal que subió un video de un personaje animado conduciendo un autobús en llamas por un tobogán de un parque, tendían a aparecer repetidamente en múltiples sesiones.

Video
The bus No. 3 is blue,
blue, blue, blue, blue, blue,

CréditoCrédito...AnimalSketch, via YouTube
Mitch Prinstein, profesor de psicología y neurociencia en la Universidad de Carolina del Norte en Chapel Hill, cuestionó además la naturaleza adictiva de estos vídeos.

"Me parece que estos medicamentos están hechos para que se te metan en la cabeza", dijo el Dr. Prinstein. "Incluso podrían ser perjudiciales, pero necesitamos más datos".

El Dr. Prinstein explicó que, debido a la dramática proliferación de contenido de IA solo en el último año, es difícil mantenerse al día con los resultados de las investigaciones.

Si bien el jurado aún no se ha pronunciado sobre los impactos definitivos a largo plazo en la salud, y los videos de baja calidad dirigidos a niños existían en la plataforma mucho antes del surgimiento de la IA, los expertos temen que el gran volumen de estos videos ahora pueda causar desplazamiento, en el que los niños pierden oportunidades de interactuar con contenido multimedia u otras actividades como leer e interactuar con otros que podrían brindarles más beneficios.

La enorme cantidad de contenido de IA ya está revolucionando las redes sociales de todo tipo. En YouTube, los niños mayores pueden encontrar fácilmente vídeos perturbadores con escenas abusivas y violentas protagonizadas por personajes infantiles populares. Las páginas de Facebook suben imágenes alteradas que tergiversan acontecimientos históricos. Avatares de IA en forma de "médicos" en Instagram promocionan consejos y productos de bienestar falsos. El pasado noviembre, TikTok anunció que había etiquetado más de 1300 millones de vídeos como generados por IA.

Algunas plataformas han comenzado a endurecer sus normas sobre el uso de estas herramientas. Pinterest cuenta con funciones que permiten a los usuarios seleccionar la cantidad de este tipo de contenido que desean ver. TikTok también afirmó estar probando diferentes métodos para reducir la cantidad de contenido de IA en sus feeds. El mes pasado, YouTube anunció nuevos controles que permiten a los padres establecer límites de tiempo en YouTube Shorts.

Video
CréditoCrédito...Duniagembira, via YouTube; Riki TV, via YouTube; Little Bunny Learns, via YouTube
El Times solicitó comentarios a YouTube sobre su política en torno a los vídeos con IA para niños y compartió cinco canales diferentes como ejemplos. En respuesta, YouTube suspendió las cinco cuentas del Programa de Socios de YouTube, lo que significa que no pueden obtener ingresos publicitarios en YouTube y no pueden aparecer en YouTube Kids. El Times también envió tres ejemplos de vídeos hiperrealistas con IA en YouTube Kids, que YouTube eliminó posteriormente de la aplicación.

YouTube también declaró que eliminó un video que The Times compartió por infringir las políticas de seguridad infantil. El video, con inteligencia artificial, mostraba animales perseguidos que cambiaban de color tras ser inoculados con una jeringa. Sin embargo, aún se pueden encontrar videos similares en el canal.

“Exigimos a los creadores que revelen cuándo han utilizado IA para crear contenido realista, es decir, cosas que un espectador podría confundir fácilmente con una persona, un lugar o un evento real”, dijo Boot Bullwinkle, portavoz de YouTube, en un correo electrónico a The Times.

Sin embargo, nuestra revisión reveló que los creadores no revelan sistemáticamente si sus videos contienen imágenes sintéticas para lograr un contenido más realista. Y en el caso de los videos animados con IA para niños, YouTube no exige que se etiqueten.

Esto significa que gran parte de la carga de identificar el contenido de IA recae en los padres, una tarea abrumadora incluso para los expertos, ya que las herramientas que crean este contenido están mejorando rápidamente.

Algunos padres han recurrido a Reddit en busca de consejos para filtrar los vídeos de IA en YouTube. Otros comentaristas de la plataforma aconsejan a otros padres crear su propia lista de reproducción de contenido verificado, mientras que algunos abogan por boicotear la plataforma por completo.

Allison Sims, de 34 años, tiene dos hijos y vive en Texas. A menudo abre su cuenta de YouTube para mantener a su hijo de 2 años entretenido mientras prepara la cena. Su hija ve Ms. Rachel, The Wiggles y otros canales de canciones infantiles . Pero no tardó mucho en descubrir cómo navegar por YouTube Shorts.

Tras encontrar varios cortos que le resultaron inquietantes en el historial de reproducción de su hija, la Sra. Sims dijo que desinstaló la aplicación del iPad. Compartió con el Times algunos de los videos que su hija vio, incluidos videos generados por IA.

“Como la IA es tan nueva, como padre, no sabría qué buscar, salvo cuando es muy obvio y me detengo a observarlo”, dijo la Sra. Sims. “Pero creo que es algo que, como padres, deberíamos saber y tener en cuenta”.

La Sra. Sims también cuestionó el motivo de los creadores de los videos. "¿De verdad quieren ayudar o intentan llamar la atención de sus hijos?"

Muchas de las cuentas de YouTube que suben contenido de IA para niños son en gran medida anónimas y no tienen información de contacto ni detalles identificables sobre quién está detrás de la cuenta.

Pero una creadora, Syeda Jaria Hassan, habló con The Times y explicó cómo aprendió por sí misma a crear vídeos de IA con herramientas como Whisk y Runway de Google. Dijo que crear contenido de IA para niños se ha convertido en su trabajo a tiempo completo.

La Sra. Hassan, que vive en la ciudad de Sargodha en Punjab, Pakistán, dijo que decidió centrarse en crear contenido para niños después de enseñar en una escuela Montessori para niños de entre 4 y 8 años. Su cuenta, Suno Kids TV , que se describe como un canal para educar y entretener a los niños, presenta videos animados de animales con IA y canciones para cantar.

Los videos más vistos en su canal son específicamente sobre Halloween. Con más de 370 millones de visualizaciones, uno de sus cortos de YouTube presenta animales espeluznantes cubiertos de heridas sangrientas y con inquietantes ojos verdes.

Video
The horse on the farm
says, “neigh, neigh, neigh.”

CréditoCrédito...Suno Kids TV, via YouTube
La Sra. Hassan, de 29 años, se negó a decir cuántos ingresos generó este video en particular o cuánto gana el canal en total, pero señaló que si los videos "tienen buenas vistas, te darán un buen sustento".

Incluso mostró algunos de los vídeos que creó a sus antiguos alumnos.

“ Les encantó”, dijo. “Aprendieron muy rápido con los videos. Aprendieron los sonidos. Aprendieron la ortografía. Aprendieron las letras”, dijo la Sra. Hassan.

Cuando se le preguntó cómo los niños pueden distraerse con este tipo de efectos, la Sra. Hassan respondió que los canales de televisión y otros canales de YouTube para niños también dependen en gran medida de los efectos visuales y que simplemente está siguiendo un modelo de programación infantil que existe desde hace años.

Sin embargo, en lo que respecta al aprendizaje, los expertos afirman que los niños se benefician más de ver contenido multimedia con una narrativa clara, con un inicio, un desarrollo y un desenlace, junto con personajes con los que se identifican y escenas que se relacionan con su vida real. El Dr. Barr señaló que los libros de cuentos y otros contenidos bien estructurados se ajustan a un formato familiar, que consiste en seguir a un personaje a lo largo de un viaje. Los contenidos multimedia que ilustran escenas con las que se identifican, como ir al parque, en última instancia, ayudan a los niños a comprender y conectar con su propio mundo.

El lenguaje sencillo y las frases cortas también son útiles para el desarrollo cognitivo. La programación que enseña a los niños conceptos como la resolución de problemas o la repetición intencional de características puede favorecer la memoria.

Un ejemplo es "Daniel Tiger's Neighborhood" de PBS Kids, una versión moderna de "Mister Rogers' Neighborhood", que sigue a un joven tigre animado que enseña habilidades para la vida y estrategias sociales. El programa colabora con expertos en desarrollo infantil para crear historias.

Ellen Doherty, directora creativa de Fred Rogers Productions, explicó que desarrollaron un patrón estructural para el programa, específicamente en el formato de dos cuentos cortos separados en cada episodio, con canciones que refuerzan estratégicamente los temas del episodio, para que tanto padres como niños puedan cantar y recordar. Esta música también ayuda a que la historia avance, pero a un ritmo controlado.

“Todo sucede a un ritmo que un niño pequeño que aún no tiene lenguaje cinematográfico puede seguir y puede procesar literalmente lo que está sucediendo”, dijo la Sra. Doherty.

En una historia, Daniel Tiger enseña a los niños a cepillarse los dientes a través de canciones, asegurándose de interactuar con los jóvenes espectadores y tomando largas pausas.

“Esa chispa de conexión humana lo es todo”, afirmó la Sra. Doherty.

Pero, ¿solo porque un video contiene elementos de IA significa que no puede fomentar la conexión humana?

Algunos investigadores, como Ying Xu, profesor adjunto de educación en la Escuela de Posgrado en Educación de Harvard, dicen que una IA bien diseñada puede realmente servir para apoyar el aprendizaje de los niños al satisfacer su curiosidad y ayudar a responder sus preguntas.

La Sra. Xu centra su investigación en el diseño de IA que apoya el desarrollo del lenguaje y la alfabetización, y colabora estrechamente con los productores de los programas animados de PBS Kids "Elinor Wonders Why" y "Lyla in the Loop".

Para la investigación de la Sra. Xu, se desarrolló una Elinor interactiva que permitía a los niños responder directamente a las preguntas del personaje, quien ofrecía retroalimentación basada en sus respuestas. La Sra. Xu descubrió que los videos conversacionales ayudaban a los niños a comprender mejor los conceptos STEM.

"No estoy de acuerdo con que los adultos deban usar la IA para monetizar o producir videos de baja calidad en masa, pero sí creo que ofrece una herramienta para que los niños se expresen", dijo Xu, y agregó que la navegación por ciertas herramientas de IA para ayudar a los niños a participar en la narración creando su propio contenido multimedia siempre debe estar guiada por maestros y padres.v