Meta, YouTube y las plataformas dañinas para la infancia y la juventud

Un jurado estadounidense declaró a las empresas de redes sociales Meta y YouTube responsables de diseñar plataformas dañinas para la infancia y la juventud.

Este veredicto condenatorio representa un momento histórico en el reconocimiento del daño causado por los gigantes tecnológicos con los diseños de sus plataformas de redes sociales.

Durante años, las empresas de redes sociales, incluidas Meta y YouTube, han priorizado un diseño adictivo  por encima del bienestar, aseguran muchos especialistas. Características como el desplazamiento infinito, la reproducción automática y las persistentes notificaciones creadas para ‘enganchar’ a los usuarios y usuarias jóvenes, favorecerían su uso compulsivo.

Este fallo puede marcar un punto de inflexión porque introduce la idea de que el diseño digital puede ser jurídicamente dañino, abre la puerta a responsabilidad directa de las plataformas y empuja hacia un modelo de “tecnología responsable por diseño”.

Problemas de salud mental

Un jurado en la ciudad de Los Ángeles, en el sudoccidental estado de California, dictaminó el miércoles 25 de marzo que la empresa de redes sociales Meta y el servicio de transmisión de video YouTube perjudicaron a una joven usuaria con funciones de diseño adictivas que le provocaron problemas de salud mental.

Meta deberá pagar 4,2 millones de dólares en concepto de daños compensatorios y punitivos combinados, y YouTube deberá pagar 1,8 millones de dólares.

Las firmas anunciaron que apelarán la decisión, que podría exponer a las empresas de redes sociales a más demandas relacionadas con el bienestar de sus usuarios.

El caso emblemático en Los Ángeles fue presentado por una mujer de 20 años identificada como KGM, acusando a las empresas de redes sociales de crear productos tan adictivos como los cigarrillos o los casinos digitales.

Citando funciones como el desplazamiento infinito y las recomendaciones algorítmicas, KGM demandó a Meta, propietaria de Instagram y Facebook, y a YouTube, de Google, alegando que estas prácticas le causaban ansiedad y depresión.

El impacto tóxico de estas características de diseño inseguras quedó de manifiesto cuando KGM contó al tribunal que empezó a usar YouTube con sólo seis años e Instagram con nueve.

La joven describió que, cuando era niña, se pasaba ‘todo el día’ online. Con el tiempo, su uso compulsivo de estas plataformas de redes sociales se intensificó, por lo que tuvo que luchar contra su adicción y una depresión cada vez más profunda.

El fallo representó una importante victoria para los demandantes, de acuerdo con The New York Times, que lo calificó como “histórico”.

Novedosa teoría legal

La decisión valida una novedosa teoría legal que sostiene que las redes sociales o aplicaciones pueden causar daños personales, y es probable que influya en casos similares que se prevé que lleguen a juicio este mismo año.

Ante el jurado en Los Ángeles declaró Mark Zuckerberg, propietario de Meta, quien ha insistido en que los menores de 13 años tienen prohibido acceder a Instagram y les atribuyó algún grado de responsabilidad.

“Creo que hay un número potencialmente significativo de personas que mienten sobre su edad para usar nuestros servicios”, dijo Zuckerberg, además de sostener que su objetivo no era enriquecerse, puesto que Meta “dona casi todo a obras benéficas”, incluidos miles de millones de dólares a la investigación científica.

José Castañeda, portavoz de Google, también manifestó su desacuerdo con el veredicto pues “este caso malinterpreta a YouTube, que es una plataforma de streaming (transmisión continua de audiovisuales) diseñada de forma responsable, no una red social”.

El fallo en Los Ángeles se produjo tras una decisión en un juicio parecido, aunque con menor atención mediática, en el también sudoccidental estado de Nuevo México.

El martes 24 de marzo, un jurado en Nuevo México falló que Meta priorizó la obtención de beneficios frente a la seguridad, impactando la salud mental de los menores, poniéndolos en peligro. Se condenó a la firma a pagar 375 millones de dólares en daños

Algunos especialistas consideran que los Estados deben exigir una revisión fundamental de la manera en que operan estas plataformas, entre otras cosas abordando su diseño adictivo.

Más que un caso aislado

Este fallo de Los Ángeles puede ser bastante más que un caso aislado al apuntar a un posible cambio estructural en cómo se entienden y regulan las plataformas digitales.

La clave no es la indemnización sino que se les considera negligentes por el diseño del producto, no solo por el contenido, cuestionando directamente un modelo basado en la famosa frase de que “no somos responsables del contenido de terceros”, escudo tradicional de las plataformas.

Lo que el fallo sugiere es un cambio acusado de percepción, es decir, pasa de ser una mera “plataforma neutral” a un “producto con responsabilidad”. En efecto, hasta ahora, las redes se defendían diciendo: “nosotros no creamos el contenido”. Pero el fallo cambia el foco advirtiendo que si diseñan sistemas que inducen comportamientos dañinos tienen una responsabilidad. Y este es un  giro conceptual enorme.

Este caso actúa como precedente al validar la estrategia legal, animar a más litigios y multiplicar el riesgo financiero. Algunos analistas lo comparan con ya con las demandas contra el tabaco en los años 90. Hay miles de demandas similares en marcha.

Esta dinámica representa una importante presión para rediseñar las plataformas, en especial, el diseño adictivo estructural que podría traducirse en cambios como limitar el scroll infinito, eliminar o suavizar autoplay, frenar recomendaciones agresivas, más control de edad y protección de menores, o interfaces menos “dopaminérgicas”.

Impacto  en Europa

Este tipo de sentencias en EEUU suele acelerar regulación en otros lugares. En la UE (y por tanto en España), encaja directamente con la Ley de Servicios Digitales (DSA) y futuras normas sobre protección de menores. Es muy probable que se exija “seguridad por diseño” (no solo moderación posterior).

El problema de fondo es que el negocio de estas plataformas depende de maximizar el tiempo de uso ya que más datos supone más publicidad. Pero el fallo ataca justo ese núcleo y si el engagement extremo se considera dañino, el propio modelo económico queda cuestionado.

Por eso, a corto plazo veremos cambios graduales, no necesariamente radicales, pero prestando más atención al usuario, pudiendo contemplarse más herramientas de control (tiempo, notificaciones), mayor protección a menores, más transparencia en algoritmos  o ajustes en diseño menos agresivo.

SOBRE EL INSTITUTO COORDENADAS DE GOBERNANZA Y ECONOMIA APLICADA

Institución de pensamiento e investigación de la interacción entre gobernanza y economía aplicada para avanzar en constructivo y en decisivo sobre el trinomio: bienestar social, progreso económico y sostenibilidad ambiental; en pleno entorno evolutivo sin precedentes desde finales del Siglo XVIII y principios del XIX con la revolución industrial. Fiel a sus principios fundacionales de independencia, apartidismo y pluralidad, el Instituto lidera proactivamente la fusión entre la esencia y la innovación de la liberalización económica, como mejor modelo de afrontar los retos presentes y futuros de país, de Europa y del mundo.

NOTA DE INTERÉS: La información de este comunicado de prensa es un resumen de interés público proveniente de trabajos de análisis e investigación; de grupos y sesiones de trabajo de expertos y/o producción de artículos científicos del Instituto Coordenadas para la Gobernanza y la Economía Aplicada. Los papeles de trabajo y documentos originales y completos son de uso interno y de titularidad exclusiva del Instituto Coordenadas de Gobernanza y Economía Aplicada.