Los peligros de moderar la depresión en las redes sociales

LAS REDES SOCIALES SONa menudo se le culpa de dañar la salud mental de las personas. Titulares distópicos como “Seis formas en que las redes sociales afectan negativamente su salud mental” y “Sí, las redes sociales lo están haciendo sentir miserable” dominan nuestras fuentes de noticias. Por eso, no sorprende que las plataformas más populares del mundo estén implementando políticas para proteger el bienestar de sus usuarios.

Moderar la salud mental es una tarea monumental. Si bien la mayoría de las empresas de redes sociales dicen que no permiten publicaciones que puedan dañar la salud mental de los usuarios, enfrentan la tarea extremadamente difícil de decidir qué cuenta como daño. El problema es que sabemos muy poco acerca de lo que cada empresa define como contenido “problemático”, y eso es preocupante, porque las conversaciones sobre salud mental no siempre se parecen a lo que cabría esperar.

Ysabel Gerrard es profesora de Digital Media and Society en la Universidad de Sheffield. Su investigación sobre la moderación del contenido de las redes sociales ha aparecido en The Guardian y The Washington Post . También es miembro del Consejo Asesor de Suicidio y Autolesiones (SSI) de Facebook e Instagram. Anthony McCosker es profesor asociado de Medios y Comunicación y subdirector del Instituto de Investigación de Innovación Social de la Universidad Tecnológica de Swinburne, Melbourne. Es coautor del libro Automating Vision: The Social Impact of the New Camera Consciousness (Routledge).

Para nuestra última nuevos medios de comunicación y sociedad artículo , hemos querido saber cómo la gente hablaba de la depresión en Instagram. Investigamos el hashtag #depressed, y nuestro conjunto de datos inicial incluyó 3.496 publicaciones públicas recopiladas durante un período de 48 horas en marzo de 2017. Nuestro hallazgo más significativo y sorprendente fue que solo el 15 por ciento de los usuarios que publican con el hashtag #depressed lo hacen así que con lo que llamamos cuentas de “nombre real” (a través de las cuales los usuarios comparten su nombre, fotos de sí mismos y otros detalles de identificación).

La mayoría de las personas que utilizan # deprimido (el 76 por ciento de las cuentas de nuestro conjunto de datos) lo hacen de forma seudónima para compartir memes humorísticos y contenido inspirador sobre la salud mental. Estos usuarios suelen ocultar marcadores de identidad reales, incluidas imágenes de sus rostros. Si bien los investigadores pueden descartar este tipo de contenido como “ruido”, lo vemos como una señal significativa del tipo de prácticas culturales que ahora se deben ocultar a la vista cuando se publica contenido que se considera problemático.

En ausencia de publicaciones de cuentas con nombres reales, encontramos que la comunidad #deprimida está inundada con lo que llamamos publicaciones “oscuras”. Estos transmiten una estética fuerte, por lo general con imágenes en blanco y negro acompañadas de “citas tristes” o inspiradoras. Las cuentas seudónimas que publican de esta manera pueden estar completamente dedicadas a hablar sobre salud mental o transmitir experiencias negativas de salud mental. Tienen muchos hashtags y, a menudo, se centran en la experiencia diaria de depresión de las personas. Pero sostenemos que esta estética oscura no debe equipararse con peligro.

Cuando los usuarios de Instagram hacen que su depresión sea públicamente visible a través de hashtags, codifican sus publicaciones de una manera que parece contrarrestar un potencial más amplio para hacer que las conversaciones sobre salud mental sean más visibles en línea. Hay muchas razones potenciales para esto, incluida la conciencia de que Instagram modera el contenido y el estigma duradero en torno a la depresión. En cierto sentido, este es un juego del gato y el ratón con controles de contenido de plataforma, y ​​es un ejemplo del tipo de prácticas codificadas que ayudan a las personas a conectarse con otros en línea a través de la afinidad y la relación. Cualesquiera que sean las razones específicas, nuestros hallazgos nos obligan a repensar cómo reconocemos las conversaciones saludables o productivas sobre la salud mental.

Los seudónimos y los memes, elementos básicos de nuestra dieta en las redes sociales, claramente ayudan a las personas a abrirse sobre su salud mental. Michele Zappavigna, profesora titular de lingüística en la Universidad de Nueva Gales del Sur, dice que los memes humorísticos son una herramienta útil para crear vínculos sociales en la web. Uno de nuestros hallazgos más sorprendentes es que el hashtag #depressed se combina más comúnmente con #dank y #memes en lugar de palabras que podríamos esperar, como #suicide y #killme. Pero nos preocupa el futuro de estas cuentas y hashtags, principalmente porque el impulso recientemente renovado por más plataformas de redes sociales para hacer cumplir la verificación de identidad pone en riesgo el futuro del seudonimato. ¿Exigirán más empresas de redes sociales que los usuarios utilicen sus nombres reales, como Facebook?? ¿O se les pedirá a los usuarios que verifiquen su identidad cuando se registren, pero se les permitirá usar la plataforma de forma seudónima? ¿Y esto disuadiría las conversaciones sobre salud mental?

A partir de hoy, el hashtag #depressed es accesible en Instagram y ha atraído poco más de 13 millones de publicaciones, pero genera un anuncio de servicio público con enlaces a varias formas de apoyo a la salud mental.

Esto nos dice que #depressed se encuentra en algún lugar del área gris, no lo suficientemente problemático para una prohibición total, pero no completamente fuera del radar de la plataforma. Podría entenderse como una forma de contenido “límite”: publicaciones que no van en contra de las reglas de una plataforma, pero que pueden no ser apropiadas para todos los miembros de su comunidad. El término ganó fuerza en 2018, después de que Mark Zuckerberg escribiera una publicación de blog sobre la decisión de Facebook de limitar la propagación del clickbait y la desinformación.

El contenido de las redes sociales se encuentra en tres ámbitos fundamentales de aceptabilidad: permitido , prohibido y límite . El contenido permitido circula sin problemas, mientras que el contenido prohibido se elimina, ya sea algorítmicamente o por moderadores de contenido humano . Pero el contenido límite se maneja de otras formas bastante opacas. El objetivo del juego es reducir la presencia de contenido marginal de manera que no caiga bajo una prohibición o eliminación total. Por ejemplo, es posible que una plataforma no incluya ciertas publicaciones en los algoritmos de recomendación, o podría prohibir ciertas publicaciones y usuarios de redes sociales.

En la actualidad, la diversa y animada comunidad #deprimida puede prosperar en Instagram. Pero cualquier pequeño ajuste en el sistema (bloquear el hashtag, limitar los resultados de búsqueda, prohibir a los usuarios que publiquen en esta etiqueta) puede ocurrir en un abrir y cerrar de ojos y podría ser peligroso para quienes se expresan a través de publicaciones #deprimidas.

La depresión es uno de los problemas de salud mental más prevalentes y debilitantes a nivel mundial, y va en aumento. En el Reino Unido, por ejemplo, es probable que casi uno de cada cinco adultos (19,2 por ciento) experimente algún tipo de depresión durante la pandemia en junio de 2020, casi el doble que uno de cada 10 adultos que experimentaron depresión antes de la pandemia (julio de 2019 a marzo de 2020). ). La historia es igualmente sombría en los Estados Unidos, donde la depresión es la principal causa de discapacidad para los norteamericanos entre las edades de 15 y 44, y aquellos en el grupo de 18-25 experimentan las tasas más altas de depresión en el país. Pero dado que el acceso a los servicios profesionales de salud mental está restringido en muchos países, las personas son naturalmenterecurriendo a las redes sociales para hablar sobre sus experiencias. Por lo tanto, es vital que nos comprometamos a comprender estos espacios, no a moderarlos en exceso en respuesta al pánico moral público sobre los “daños” de las redes sociales, y aceptar la realidad de que las conversaciones sobre salud mental no siempre se ven como usted esperaría. a ellos.

Fuente:  https://www.wired.com/story/opinion-the-perils-of-moderating-depression-on-social-media/