Cuando la justicia obliga a diseñar bien

Un tribunal de Nuevo México ha ordenado a Meta modificar funciones concretas de Instagram y Facebook después de considerar probado que determinadas decisiones de diseño contribuyen a generar comportamientos nocivos y adictivos entre los menores. Más allá de la sanción económica, la sentencia resulta especialmente significativa porque entra en el producto, analiza cómo está diseñado y obliga a cambiarlo para reducir el daño. Y recuerda algo bastante elemental: el diseño, en su sentido más básico, es una herramienta para hacer que las cosas funcionen mejor y, con ellas, mejorar la vida de las personas.

Un juez de Nuevo México ha decidido que algunos de los problemas asociados al uso de Instagram y Facebook por parte de menores no pueden explicarse únicamente por los contenidos que circulan en estas plataformas o por cómo las utilizan sus usuarios. También están en el diseño. Y, a partir de esa conclusión, ha ordenado a Meta cambiarlo.

La sentencia, dictada por el juez Bryan Biedscheid dentro del proceso State of New Mexico v. Meta Platforms, obliga a la compañía a introducir durante cinco años una serie de medidas destinadas a proteger a los menores de edad en Nuevo México. Entre ellas están ocultar por defecto los contadores de «me gusta» a los menores de 18 años, restringir las notificaciones durante la noche y el horario escolar y establecer un máximo conjunto de 90 horas mensuales de uso de Facebook e Instagram. También establece cambios relacionados con la privacidad, la verificación de edad, el contacto entre adultos y menores y determinadas interacciones con los sistemas de inteligencia artificial de Meta.

La compañía deberá afrontar además 942 millones de dólares: 375 millones en sanciones y otros 567 millones destinados a paliar los daños causados a menores. Pero, aquí, el dinero es probablemente lo menos interesante del caso. Lo relevante es que un tribunal ha terminado hablando de notificaciones, contadores de likes, scroll, algoritmos y tiempos de uso. De decisiones de diseño.

La «fatiga de la IA» ya está aquí: ¿puede el diseño ayudarnos a salir de ella?

Todos miramos el mismo eclipse, pero no todos vimos lo mismo

Más

El diseño no es neutral

La resolución identifica elementos como el autoplay, el scroll infinito, los contadores de «me gusta», las recomendaciones algorítmicas o las notificaciones push como mecanismos capaces de favorecer un uso dañino entre adolescentes. Son funciones que durante años se han explicado desde el lenguaje habitual de las plataformas: reducir fricciones, aumentar la interacción, mejorar la retención o conseguir que el usuario permanezca más tiempo dentro.

La cuestión que introduce la sentencia es que que algo funcione perfectamente para conseguir los objetivos de una empresa no significa necesariamente que esté bien diseñado para quien lo utiliza. Y esto es lo que convierte el caso de Meta en un precedente interesante que subraya que el diseño produce consecuencias y que esas consecuencias generan responsabilidades.

El tribunal no ha ordenado eliminar todas las funciones que considera problemáticas. El autoplay, el scroll infinito o las recomendaciones algorítmicas permanecen, entre otras razones por las dificultades jurídicas que supondría intervenir sobre mecanismos utilizados por buena parte de la industria. Meta, además, ha anunciado que recurrirá la sentencia y las medidas afectan por ahora únicamente a Nuevo México.

Pero el cambio de enfoque está ahí. La justicia no se ha limitado a decirle a Meta que ha hecho algo mal y a imponerle una sanción. Le ha dicho que tiene que diseñar de otra manera.

Si esta forma de entender el diseño en los tribunales se trasladara a más productos, servicios y ámbitos, probablemente cambiaría la importancia que muchas empresas conceden al sector. No bastaría con que un producto vendiera, retuviera usuarios o aumentara determinadas métricas. Habría que preguntarse qué provoca, cómo condiciona el comportamiento de las personas y qué consecuencias genera.

Diseñar bien dejaría de ser algo que se defiende únicamente desde la ética profesional o desde la cultura del diseño para convertirse también en una cuestión empresarial. Contar con buenos profesionales, escuchar sus advertencias y pensar seriamente en las consecuencias de cada decisión tendría un valor mucho más concreto si diseñar mal pudiera terminar delante de un juez.

Durante décadas el diseño ha defendido precisamente esa función: resolver problemas, facilitar el uso de las cosas y contribuir a hacer mejor la vida cotidiana.