Durante años, las empresas de redes sociales han asegurado a usuarios, anunciantes y público en general que hacen todo lo posible por ofrecer una experiencia más segura y amigable. Incluso cuando el odio y la desinformación surgían en plataformas como Facebook, Twitter, Reddit, TikTok, YouTube y otras, los directivos insistían en que tomaban medidas proactivas para librar a sus plataformas del antisemitismo, el racismo y el odio que habían dado lugar a sucesos como Charlottesville y la insurrección del 6 de enero.
“No tenemos ningún incentivo para tolerar el discurso de odio. A nosotros no nos gusta, a nuestros usuarios no les gusta, a los anunciantes comprensiblemente no les gusta”, le dijo a CNN en 2020 Nick Clegg, presidente de asuntos globales de Meta, ante la posibilidad de un boicot cuando los anunciantes se hartaron del odio y la desinformación en Facebook. “Nos beneficiamos de una conexión humana positiva: no del odio”.
“Las impresiones de discurso de odio bajan 1/3 respecto a los niveles previos al pico. ¡Enhorabuena al equipo de Twitter!”, vitoreaba Elon Musk en Twitter en noviembre de 2022, cuando estaba claro que ocurría todo lo contrario.
Ahora, los usuarios de las redes sociales nos cuentan directamente que sus experiencias son muy distintas.
Nuevos datos de mi equipo del Centro de Tecnología y Sociedad de la ADL muestran que el odio y la intimidación en línea han aumentado a niveles críticos. Algo más de la mitad de los adultos estadounidenses afirman haber sufrido odio y acoso en Internet a lo largo de su vida. Además, no son solamente los adultos: el 51% de los adolescentes afirma haber sufrido algún tipo de intimidación en línea en los últimos 12 meses, frente al 36% del año anterior.
Los datos son especialmente duros para quienes se identifican como miembros de un grupo marginado. Más de tres cuartas partes de las personas transgénero afirman haber sufrido acoso en Internet, y el 60% de ellas denuncian acoso grave, como amenazas físicas.
De hecho, el odio en Internet aumenta en todos los indicadores. Al 80% de los encuestados judíos, que también experimentaron un aumento significativo del odio en Internet, les preocupa ser acosados por su religión, y muchos declararon que evitan identificarse como judíos en las redes sociales.
Esto es lo que hace el odio en Internet: expulsa a la gente de la conversación, atentando contra su propia libertad de expresión.
El acoso en línea es algo más que “expresiones hirientes”. Abarca desde los insultos hasta el ciberacoso y el doxing (difusión de información privada o identificativa sobre una persona con la intención de causar daño). Causa angustia emocional, daños económicos y a la reputación, y evasión de los espacios en línea. Además, puede tener consecuencias en el mundo real.
El acoso a las personas transgénero en las redes sociales ha precedido amenazas de bomba y muerte contra hospitales que prestan servicios de atención que afirman la identidad de género. Los autores de atentados masivos encuentran inspiración en los contenidos misóginos, anti-LGBTQ+ y antisemitas que circulan por sus redes. El mes pasado, un supremacista blanco en Michigan compartió en Instagram sus intenciones de llevar a cabo un ataque contra una sinagoga, después de publicar contenido antisemita y glorificar los tiroteos masivos del pasado.
¿Cómo han reaccionado los directivos de las redes sociales? En lugar de mejorar los mecanismos de denuncia de abusos o aplicar sus propias normas contra la incitación al odio, siguen ocultando los problemas. Algunas plataformas incluso han agravado el problema.
Un ejemplo es Twitter. Después de que Elon Musk comprara Twitter y la convirtiera en empresa privada en octubre de 2022, la plataforma ha vuelto a invitar a usuarios que habían sido vetados anteriormente. Twitter también disolvió el Consejo de Confianza y Seguridad, un grupo voluntario de asesores de la sociedad civil (incluida la ADL) encargado de ayudar a la plataforma a afrontar los problemas planteados por el odio en línea. No es de extrañar que, desde que se produjeron estos cambios, hayamos comprobado que muchas de las cuentas restablecidas están difundiendo activamente el antisemitismo e incitando al acoso.
En el último año, las empresas tecnológicas han realizado despidos récord en detrimento de la seguridad en línea. Google redujo el equipo de creación de herramientas de moderación y rastreo de amenazas. Twitter redujo drásticamente sus equipos de seguridad y ética. Los despidos masivos de Meta diezmaron sus equipos de confianza y seguridad.
Como antigua empleada de Facebook, he visto de primera mano el daño que puede causar ignorar la propagación del odio y el acoso en Internet. Durante años, a medida que el odio en Internet se ha ido normalizando, las plataformas de redes sociales han hecho gestos vacíos respecto a la confianza y la seguridad, insistiendo en que sus equipos tienen todo bajo control. Pero nuestra investigación deja claro que no es así.
Y, por desgracia, nuestras leyes actuales no incentivan a estas empresas a dar prioridad a la protección de las personas. Los principios básicos de seguridad pública se aplican a todas las demás industrias, pero actualmente se ignoran cuando se trata de proteger a las personas en Internet. Si un fabricante de automóviles fabrica frenos defectuosos, hay leyes que lo obligan a retirar todos esos vehículos para solucionar el problema. Ninguna otra industria se sale con la suya al ignorar sus problemas de seguridad como lo hacen las empresas tecnológicas.
Dado que las empresas tecnológicas han demostrado no estar dispuestas a dedicar los recursos adecuados para proteger a las víctimas de abusos, los legisladores deben tomar medidas. Aunque gran parte del nocivo discurso que vemos en Internet no es ilegal, hay medidas que los gobiernos pueden tomar para incentivar un mejor comportamiento de las empresas y, cuando el contenido cruza la línea a la incitación al daño, proteger a las personas.
En primer lugar, es hora de actualizar las leyes que protegen a las víctimas de acoso grave y abuso digital. El doxing, por ejemplo, es una forma de acoso grave en línea que puede incitar a la violencia en el mundo físico. Sin embargo, no existe ninguna ley federal contra el doxing, a pesar de que esta práctica se está convirtiendo en una forma cada vez más común de atacar a las personas. Algunos estados han hecho progresos aprobando leyes contra el doxing y el swatting, pero el Congreso también tiene que desempeñar un papel.
También tenemos que revelar la forma en que responden las plataformas al odio y al acoso, cómo aplican sus propias políticas y cómo cumplen sus promesas de proteger a los usuarios. Necesitamos transparencia sobre la recopilación de datos, la segmentación publicitaria y los sistemas algorítmicos de las plataformas para comprender cómo prolifera el odio en Internet y cuál es la mejor manera de abordarlo.
Ya no podemos fiarnos de las promesas de las empresas, debemos tener requisitos de transparencia auditables y verificables. El gobierno tiene un papel crucial en destapar la caja negra de la tecnología. Merecemos saber cómo actúan las plataformas en lo que respecta a nuestra seguridad.
Hay vidas en juego, literalmente.
Yael Eisenstat es vicepresidenta de la Liga Antidifamación, donde dirige el Centro de Tecnología y Sociedad de la ADL.
