Bumble, la aplicación de citas y red social en la que las mujeres van primero presentó una nueva política que prohíbe explícitamente el discurso de odio relacionado con la identidad, lo que refuerza la postura que la compañía ha adoptado previamente, prohibiendo el lenguaje racista, transfóbico, capacitista y de body shaming. La empresa también ha anunciado que tomará medidas contra quienes intencionalmente presenten denuncias falsas debido a la identidad de alguien, incluyendo la eliminación de las personas que reincidan en esa conducta dentro de su plataforma.
La compañía define el odio relacionado con la identidad como el contenido, las imágenes o las conductas que promueven o aprueban el odio, la deshumanización, la degradación o el desprecio contra las comunidades marginadas o minoritarias con los siguientes atributos protegidos: raza, etnia, nacionalidad, estado de inmigración, casta, sexo, género, identidad o expresión de género, orientación sexual, discapacidad, condición de salud grave, creencias o religión.
“Al ser una plataforma basada en la amabilidad y el respeto, queremos que nuestros miembros se conecten de forma segura y sin recibir odio simplemente por lo que son”, señaló Azmina Dhrodia, líder de política de seguridad de Bumble. “Queremos que esta política establezca el estándar de oro de cómo las apps de citas deben pensar en torno al contenido y los comportamientos de odio, así como el cumplimiento a las reglas en torno a este tema. Abordamos este complejo problema social con principios que celebran la diversidad”.
El odio relacionado con la identidad es un problema que afecta negativamente a muchas comunidades, y es algo que cada vez más personas no conformes con el género, como las personas trans y no binarias, han enfrentado en las citas en línea. En un análisis reciente realizado por Bumble, se descubrió que hasta el 90% de las denuncias de usuarios recibidas sobre personas no conformes con el género fueron finalmente descartadas por sus moderadores debido a que no se encontró ninguna violación de las normas de Bumble. Los informes de los usuarios contenían con frecuencia lenguaje relacionado con el género del usuario denunciado y especulaciones de que el perfil podría ser falso. Estas nuevas normas significan ahora que Bumble puede tomar medidas contra quienes presenten intencionadamente denuncias falsas o sin fundamento sólo por la identidad de alguien.
“Nuestro equipo de moderación tiene sesiones de formación sobre sesgo implícito y debate entre todos los moderadores para explicar cómo pueden existir prejuicios al moderar contenidos”, dijo Dhrodia. “Siempre queremos liderar a partir de la educación y dar a nuestra comunidad la oportunidad de aprender y mejorar. Sin embargo, no dudaremos en expulsar permanentemente a alguien que vaya sistemáticamente en contra de nuestras políticas o directrices”.
App automatiza funciones de seguridad
La aplicación utiliza funciones automatizadas de salvaguarda para detectar comentarios e imágenes que van en contra de sus políticas, que luego pueden ser escalados a un moderador humano para su revisión. Hasta el 80% de las infracciones en Bumble se detectan ahora de forma proactiva antes de que alguien las denuncie, lo que forma parte del compromiso de la empresa de reducir y prevenir los daños antes de que se produzcan.
Los usuarios de Bumble también pueden denunciar a alguien por mensajes de odio contra la identidad a través de la herramienta de bloqueo y denuncia de la app, ya sea directamente desde el perfil de alguien o dentro de su conversación de chat.
Azmina Dhrodia, experta en género, tecnología y derechos humanos, se unió a Bumble en 2021. Trabajó anteriormente sobre la violencia y el abuso en línea contra las mujeres en la World Wide Web Foundation y Amnistía Internacional, así como con varias empresas tecnológicas para crear experiencias en línea más seguras para las mujeres y las comunidades marginadas.