Hacerse cargo: Meta y TikTok demandas por tendencias "surf en el metro" que ya generó muertes

Hasta el momento, la Sección 230 no ha logrado proteger a Meta y al propietario de TikTok, ByteDance, de una demanda presentada por una madre que alegó que la muerte por negligencia de su hijo siguió a una avalancha de plataformas de videos de "surf en el metro" dirigidas intencionalmente a adolescentes en Nueva York.

La tendencia imita el super descargado juego Subway Surfers pero en este caso en la vida real saltando en la parte superior de los trenes. 

En una decisión tomada el lunes, el juez Paul Goetz de la Corte Suprema del Estado de Nueva York denegó en gran medida las mociones de las empresas de redes sociales para desestimar las reclamaciones que, según ellas, deberían prohibirse en virtud del Artículo 230 y la Primera Enmienda.

Goetz afirmó que la madre, Norma Nazario, había alegado adecuadamente que el contenido de navegación en el metro "se le proporcionó deliberadamente" a su hijo Zackery "debido a su edad" y "no a ninguna entrada de usuario que indicara que estaba interesado en ver dicho contenido".

A diferencia de otros casos de la Sección 230 en los que se determinó que los algoritmos de las plataformas eran neutrales en cuanto al contenido, Goetz escribió que en este caso, "es plausible que el papel de los acusados ​​en las redes sociales excediera el de la asistencia neutral en la promoción de contenido y constituyera una identificación activa de los usuarios que se verían más afectados por el contenido".

Las plataformas podrían verse obligadas a desmitificar los algoritmos

De ahora en adelante, Nazario tendrá la oportunidad de investigar cómo Zackery interactuó con el contenido de navegación en el metro. En su denuncia, no solicitó la eliminación de todo el contenido de navegación en el metro, sino que las plataformas rindan cuentas por decisiones de diseño supuestamente peligrosas que supuestamente se dirigen a adolescentes desprevenidos.

"No se debería permitir que los usuarios de redes sociales dirijan activamente sus aplicaciones a los jóvenes con 'desafíos' peligrosos antes de que el usuario dé indicio alguno de que está específicamente interesado en dicho contenido y sin previo aviso", argumentó Nazario.

Y si se demuestra que tiene razón, eso significa que las plataformas no se verán obligadas a censurar ningún contenido, sino que deberán actualizar los algoritmos para dejar de enviar desafíos "peligrosos" para mantener a los adolescentes interesados ​​en un momento en el que son más propensos a tomar decisiones imprudentes, sugirió Goetz.
En su fallo, Goetz no eximió a las plataformas de responsabilidad, pero sí desestimó las demandas presentadas contra la Autoridad Metropolitana de Transporte (MTA). Dichas demandas alegaban que la MTA no cerró las puertas ni impidió que los usuarios del metro intentaran los retos.

El hijo de Nazario, Zackery, murió tras abrir la puerta de un tren, subirse a un tren en movimiento y voltearse a ver a su novia justo cuando el tren cruzaba el puente Williamsburg. Al golpearse la cabeza contra una viga baja del puente, cayó entre vagones del metro, fue atropellado y murió en el lugar.

Goetz estuvo de acuerdo con la MTA en que Zackery "claramente" no era "un desconocido" en el sistema del metro y conocía el riesgo y el peligro "obvios" de intentar surfear en el metro a pesar de que no hubiera advertencias publicadas.

El supuesto papel de las empresas de redes sociales en la difusión de los videos parece ser un caso menos obvio de presunta negligencia. Goetz afirmó que el descubrimiento de pruebas determinará en última instancia si este caso se trata de libertad de expresión o conducta ilícita. Pero por ahora, muchas de las demandas de Nazario sobreviven, lo que permite a la madre argumentar que «los demandados de las redes sociales incumplieron su deber de cuidado al diseñar productos adictivos y peligrosos (y al no advertir sobre los peligros que representaban) y que Zackery falleció como consecuencia de dicho incumplimiento».

Por supuesto, el descubrimiento también podría demostrar que el hijo de Nazario buscó el contenido, lo que podría desbaratar su argumento original de la Sección 230. Las empresas de redes sociales ya han conseguido que se desestimen varias demandas, incluida una de enriquecimiento injusto, según Goetz, porque Nazario no respondió. Pero parece improbable que la madre, que ha estado luchando contra las plataformas desde 2023, se detenga antes de obtener las respuestas que necesita sobre cómo su hijo fue alimentado con los videos del desafío de surf en el metro.