Cada elección de diseño que hacen las plataformas de redes sociales impulsa a los usuarios hacia determinadas acciones, valores y estados emocionales.
Ofrecer un servicio de noticias que combina fuentes verificadas con blogs de conspiración, intercalados con fotos de un picnic familiar, es una decisión de diseño: no se distingue entre tipos de información tan diferentes.
Utilizar algoritmos que priorizan el contenido más emotivo o escandaloso para mantener a los usuarios conectados también es una decisión de diseño. Enviar notificaciones rojas brillantes, generando expectativa por la siguiente foto o chisme jugoso, es, nuevamente, una decisión de diseño.
El diseño de la plataforma es un piloto silencioso que dirige el comportamiento humano.
Las redes sociales están generando cambios radicales en la forma en que las personas se informan, se comunican y se comportan. Por ejemplo, el “desplazamiento infinito” es una función de diseño que busca mantener al usuario navegando continuamente, evitando que llegue a un punto natural de pausa o decisión.
Soy politólogo y estudio los aspectos tecnológicos que apoyan la democracia y la cohesión social. He observado cómo el diseño de estas plataformas influye en ambos.
La democracia está en crisis a nivel mundial, y la tecnología desempeña un papel importante. La mayoría de las grandes plataformas optimizan sus diseños para obtener ganancias, no para fortalecer la comunidad ni para proteger los valores democráticos.
Cada vez más, las grandes tecnológicas se alían con regímenes autoritarios, y sus diseños contribuyen a mantener a la sociedad bajo control. Sin embargo, existen alternativas: algunas empresas están creando plataformas en línea diseñadas específicamente para defender principios democráticos.
Optimizado para obtener ganancias
Un puñado de multimillonarios tecnológicos domina el ecosistema global de la información. Sin rendición de cuentas ni supervisión pública, deciden qué noticias aparecen en tu feed y qué datos recopilan y comparten.
Aunque afirman que su propósito es conectar personas, la mayor parte de sus ingresos proviene de intermediarios de datos y agencias de publicidad. El tiempo que pasas en estas plataformas se traduce directamente en ganancias: cuanto más tiempo estás en línea, más anuncios ves y más datos personales se pueden recopilar sobre ti.
Este modelo de negocio basado en la publicidad exige diseños que fomenten el desplazamiento sin fin, la comparación social y la interacción emocional. Las plataformas suelen declarar que simplemente reflejan el comportamiento del usuario, pero documentos internos y testimonios de denunciantes han demostrado que el contenido tóxico tiende a recibir más promoción porque capta la atención de manera más efectiva.
Estas plataformas están diseñadas con base en una amplia investigación psicológica. Algunos ejemplos incluyen notificaciones intermitentes que hacen vibrar o sonar tu teléfono, recompensas visuales cuando tus publicaciones reciben “me gusta”, y algoritmos que priorizan contenido altamente emotivo para activar tus emociones más básicas: ira, vergüenza o euforia.
Optimizar los diseños para la participación del usuario ha perjudicado la salud mental y la cohesión social. Las redes sociales priorizan la publicidad llamativa y el escándalo sobre la precisión de los hechos, y la manipulación pública sobre la seguridad, la privacidad y la autonomía del usuario. El resultado: una avalancha de información falsa y polarizante, corrosiva para la democracia.
Muchos analistas identificaron estos problemas hace casi una década. Pero ahora surge una nueva amenaza: algunos ejecutivos tecnológicos buscan activamente hacerse con el poder político para impulsar una nueva era de tecnoautocracia.
Lee: Las redes sociales son parte de tu vida; utilízalas bien
Optimizado para el poder político
Una tecnoautocracia es un sistema político en el que un gobierno autoritario usa la tecnología para controlar a su población. Los tecnoautócratas difunden desinformación y propaganda, emplean tácticas de miedo para demonizar al “otro” y desviar la atención de la corrupción. Utilizan grandes cantidades de datos, inteligencia artificial y vigilancia para censurar a sus opositores.
Por ejemplo, China monitorea y vigila a su población mediante cámaras públicas. Plataformas como WeChat y Weibo escanean, bloquean o eliminan automáticamente mensajes que contienen palabras sensibles como “libertad de expresión”. En Rusia, plataformas nacionales como VK son estrechamente vigiladas y, en parte, propiedad del Estado, que las usa para difundir propaganda oficial.
Desde hace más de una década, multimillonarios como Elon Musk y Peter Thiel —y más recientemente el vicepresidente J.D. Vance— han comenzado a alinearse con filósofos políticos de extrema derecha como Curtis Yarvin. Estos ideólogos argumentan que la democracia frena la innovación, y que la solución es trasladar el poder de decisión a miniestados corporativos regidos mediante vigilancia.
Adoptando esta visión tecnoautocrática, han pasado de financiar y diseñar internet a intentar transformar la estructura de gobierno.
Los tecnoautócratas están utilizando las plataformas sociales como armas dentro de su plan para desmantelar las instituciones democráticas.
El control político tanto de X como de Meta también tiene implicaciones para la seguridad global. En Meta, Mark Zuckerberg eliminó barreras a la propaganda de derecha y respaldó abiertamente la agenda del presidente Donald Trump. Musk, por su parte, modificó el algoritmo de X para destacar contenido de derecha, incluida propaganda rusa.
Diseñar tecnología para la democracia
Reconociendo el poder del diseño de plataformas sobre la sociedad, algunas empresas están desarrollando nuevas tecnologías de participación cívica que fortalecen, en lugar de debilitar, el acceso a información verificada y los espacios para la deliberación pública. Estas plataformas incluyen elementos de diseño que las grandes tecnológicas podrían adoptar para fomentar la participación democrática y contrarrestar la tecnoautocracia.
En 2014, un grupo de tecnólogos fundó Pol.is, una herramienta de código abierto para la deliberación pública basada en ciencia de datos. Pol.is permite a los participantes proponer y votar ideas políticas mediante lo que llaman “democracia computacional”.
Su diseño evita los ataques personales al no incluir un botón de “responder”. No ofrece un feed llamativo y sus algoritmos identifican áreas de consenso y desacuerdo, ayudando a los usuarios a comprender la diversidad de opiniones. La participación es anónima, lo que fomenta el enfoque en los temas, no en las personas.
Taiwán utilizó Pol.is para impulsar la participación ciudadana durante el movimiento democrático de 2014. El Laboratorio de Inteligencia Colectiva del Reino Unido la empleó para debatir políticas sobre clima y salud. En Finlandia, la fundación pública Sitra la usa en los diálogos “¿Qué opinas, Finlandia?”.
En 2017, Barcelona diseñó Decidim, una plataforma de democracia participativa que permite a los ciudadanos proponer, debatir y decidir políticas públicas y presupuestos de forma colaborativa y transparente. Actualmente, se utiliza en varias ciudades de España y Europa.
La Premio Nobel de la Paz Maria Ressa fundó Rappler Communities en 2023, una red social filipina que combina periodismo, comunidad y tecnología. Su objetivo es restaurar la confianza en las instituciones proporcionando espacios seguros para el intercambio de ideas entre ciudadanos, periodistas y organizaciones de la sociedad civil.
Rappler Communities también ofrece privacidad y portabilidad de datos públicos: permite transferir información (fotos, contactos, mensajes) de una plataforma a otra, una función ausente en las grandes redes sociales.
Incluso en contextos extremos es posible usar la tecnología para el diálogo. En 2024, la Alianza para la Paz en Oriente Medio comenzó a usar Remesh.ai, una plataforma basada en IA, para encontrar puntos en común entre israelíes y palestinos, con el fin de impulsar un proceso de paz público e identificar los elementos de un posible acuerdo de alto el fuego.
El diseño de las plataformas es una forma de ingeniería social que moldea el comportamiento, el pensamiento y la interacción humana, a menudo de forma invisible. Crear mejores plataformas que respalden la democracia puede ser el antídoto necesario frente a la ola creciente de autocracia global, impulsada cada vez más por tecnologías diseñadas para reforzar el control y la manipulación.
*Lisa Schirch es Profesora de Práctica de Estudios para la Paz en la Universidad de Notre Dame
Este artículo fue publicado originalmente en The Conversation
Síguenos en Google Noticias para mantenerte siempre informado
Cortesía de Forbes
Dejanos un comentario: