El discurso de odio en las redes sociales
Por: José R Jorge Rivera
Educador Senior de la Ética Gubernamental
Las redes sociales son un espacio público en el que se comparten ideas y opiniones Promueven el intercambio de información y puntos de vista, no siempre coincidentes, pero que pueden generar nuevo conocimiento que sirva de punto de partida para el desarrollo de nuevas ideas frente a una diversidad de temas Sin embargo, frecuentemente también se utilizan para diseminar discursos de odio que promueven estereotipos que pueden llevar a la discriminación contra personas y grupos
Como servidores públicos hemos juramentado un compromiso de lealtad a las leyes y Constitución del Estado Libre Asociado de Puerto Rico que, en la Sección 1 del Artículo II, conocida como Carta de Derechos, establece:
“La dignidad del ser humano es inviolable. Todos los hombres son iguales ante la ley. No podrá establecerse discrimen alguno por motivo de raza, color, sexo, nacimiento, origen o condición social, ni ideas políticas o religiosas. Tanto las leyes como el sistema de instrucción pública encarnarán estos principios de esencial igualdad humana.”
Ante esta realidad, y tomando en cuenta los constantes retos que enfrentamos los servidores públicos, es importante hacer una introspección que nos lleve a entender que, aun cuando existen leyes locales y federales que lo prohíben, el discrimen sigue siendo un problema real para millones de personas a nivel mundial. Por lo tanto, es imprescindible identificar las dinámicas de difusión de los discursos de odio en las redes sociales, y de qué manera contribuyen a perpetuar el discrimen. No es suficiente entender el marco legal sobre los discursos de odio en contrapeso con los límites del derecho a la libre expresión, también tenemos que reafirmar nuestro
compromiso con la erradicación del discrimen, principalmente desde nuestro desempeño en la gestión pública De esa manera, estaremos haciendo una gran contribución a la creación de espacios digitales seguros, inclusivos y guiados por principios y valores.
¿Qué es el discurso de odio?
La Organización de las Naciones Unidas, en su Estrategia y Plan de Acción para la Lucha contra el Discurso de Odio, lo define como “cualquier forma de comunicación de palabra, por escrito o a través del comportamiento, que sea un ataque o utilice lenguaje peyorativo o discriminatorio en relación con una persona o un grupo sobre la base de quiénes son o, en otras palabras, en razón de su religión, origen étnico, nacionalidad, raza, color, ascendencia, género u otro factor de identidad” (ONU, 2019). No obstante, es importante destacar que no existe una definición jurídica uniforme a nivel mundial sobre lo que es el discurso de odio y ni siquiera se ha establecido de manera definitiva lo que constituye “odio”. De hecho, el derecho internacional no requiere que los países prohíban el discurso de odio, sino más bien la incitación a la discriminación, la hostilidad o la violencia (ONU, 2019).
Consecuencias directas e indirectas del discurso de odio
A nivel individual y social, el discurso de odio tiene consecuencias directas en indirectas Algunas de estas son (Cabo Isasi & García Juanatey, 2017):
·Violencia y discriminación: El discurso de odio puede incitar a la violencia y la discriminación contra individuos o grupos
·Daño psicológico: Puede causar ansiedad, miedo, depresión y baja autoestima, además de llevar al aislamiento social y a la exclusión.
·Erosión de la cohesión social: Al afectar los niveles de confianza entre grupos sociales, afecta la convivencia, promoviendo ambientes de miedo y hostilidad.
·Normalización del odio y la intolerancia: Se podría llegar a entender la discriminación como algo normal y hasta buscar la manera de justificarla.
·Debilita la democracia: Afecta principios fundamentales como lo son la libre expresión, la igualdad, la no discriminación, lo que erosiona la confianza de los ciudadanos en sus instituciones gubernamentales.
·Impacto económico: Afecta negativamente el clima de inversión y el turismo de los países, mientras daña la reputación de empresas, comunidades y sistemas gubernamentales.
Estado digital de Puerto Rico en el 2024
Para entender el alcance del discurso de odio que se disemina a través de redes sociales y otros medios en línea, es pertinente conocer el estado del mundo digital puertorriqueño en el año 2024 La firma de consultores DataReportal fue diseñada para proveer información, a personas y empresas a nivel internacional, en la toma de decisiones organizacionales Recientemente, estos publicaron un nuevo sondeo relacionado con el uso de Internet y redes sociales en Puerto Rico De la publicación se desprenden lo siguientes datos sobre el estado digital de Puerto Rico (DataReportal, 2024):
·2.77 millones de personas se identificaron como usuarios de Internet en Puerto Rico hasta enero de 2024.
·Del total de usuarios de Internet, 2.31 millones dijeron utilizar alguna red social.
·Del total de usuarios de redes sociales, 1.85 millones utilizan Facebook.
·Del total de usuarios de Facebook en Puerto Rico, 54.6 por ciento son mujeres.
·Puerto Rico contaba con 2.70 millones de conexiones de celulares hasta enero de 2024. Ello equivale al 82.7 por ciento del total de la población. En enero de 2024, Puerto Rico contaba con 3.26 millones de habitantes. Vale aclarar que usualmente una persona puede tener más de una conexión de celular para diversos propósitos.
·El 52.2 por ciento de los usuarios de redes sociales en Puerto Rico son mujeres, mientras que los hombres representan el 47.8 por ciento.
El sondeo realizado por DataReportal nos ilustra que el uso de medios digitales en Puerto Rico va en incremento De igual manera, podríamos inferir que, a mayor cantidad de usuarios de medios digitales, mayores son también las probabilidades de que en algún momento todos podamos estar expuestos a alguna de las modalidades del discurso de odio que analizaremos en este artículo
Perspectiva mundial del discurso de odio en las redes sociales
La revista académica Council on Foreign Relations publicó, en su edición de 7 de junio de 2019, un artículo del periodista Zachary Laub titulado “Hate Speech on Social Media: Global Comparisons” En su escrito, hace un análisis comparativo del estado de los discursos de odio en redes sociales a nivel mundial Del artículo, podemos resumir los siguientes puntos (Laub, 2019):
·El discurso de odio en línea puede vincularse con un aumento a nivel global en la violencia dirigida a minorías, incluyendo balaceras en masa, linchamientos y limpiezas étnicas (Laub, 2019)
·Las políticas que buscan detener los discursos de odio se hacen cumplir de manera inconsistente y, en muchos casos, amenazan el ejercicio del derecho a libre expresión
·Mientras países como Alemania obligan a las empresas a remover publicaciones dentro de ciertos periodos de tiempo, en el caso de los Estados Unidos, las empresas tienen amplios poderes para administrar sus plataformas y dar cumplimiento a sus propias regulaciones que prohíben el discurso de odio
El Pew Research Center es un centro de investigación independiente que informa al público sobre los problemas, las actitudes y las tendencias mundiales. Realizan encuestas de opinión pública, investigaciones demográficas, análisis de contenido y otras investigaciones de ciencias sociales basadas en datos, sin adoptar posiciones políticas. En el 2021, publicaron un sondeo a nivel internacional para conocer las actitudes de las personas frente al discurso de odio. Ante la pregunta de si la gente debería poder hacer públicamente comentarios ofensivos dirigidos a minorías, el porcentaje de personas por región que respondieron en la afirmativa se distribuye como sigue (Pew Research Center, 2021):
Estados Unidos 67%
América Latina 50%
Europa 46%
África 36%
Pacífico Asiático 27%
Oriente Medio 24%
Promedio global 35%
La encuesta también reveló algunos datos que debemos considerar:
·El 41% de los norteamericanos ha experimentado algún tipo de acoso en al menos alguna de las siguientes modalidades:
Amenazas físicas 14%
Acecho 11%
Acoso sostenido 11%
Acoso sexual 11%
Nombres ofensivos 31%
Avergonzar a propósito 26%
·El género de la víctima parece ser un factor importante para ciertas modalidades de abuso Por ejemplo, 35% de los hombres respondieron haber sido llamados por nombres ofensivos, mientras que solo el 26% de las mujeres dijo ser víctima de esta modalidad Sin embargo, cuando se trata de acoso sexual en línea, 16% de las víctimas son mujeres y solo 5% de los hombres dijeron haber experimentado este tipo de abuso en línea Lo mismo ocurre en el renglón del acecho, donde 13% de las mujeres lo han experimentado versus el 9% de los hombres encuestados
En cuanto a los motivos del acoso y el discurso de odio que reciben en línea, los encuestados que fueron objeto de acoso señalaron las siguientes:
Opiniones políticas 50%
Género 33%
Raza o etnia 29%
Religión 19%
Orientación sexual 16%
Cuando los receptores del discurso de odio o acoso en línea encuestados se subdividen por raza y motivos, los resultados son los siguientes:
Opiniones políticas:
Blancos 56%
Negros 38%
Latinos 38%
Género:
Blancos 33%
Negros 37%
Latinos 33%
Raza o etnia:
Blancos 17%
Negros 54%
Latinos 47%
Religión:
Blancos 18%
Negros 16%
Latinos 21%
Orientación sexual:
Blancos 15%
Negros 20%
Latinos 20%
Un 75% de las personas encuestadas, que dijeron haber sido víctimas de acoso o discurso de odio en línea, identificaron a las redes sociales como el espacio virtual más reciente en el que fueron acosadas
Aunque la mayoría de los norteamericanos critica negativamente la manera como las empresas dueñas de redes sociales manejan el acoso y los discursos de odio en sus plataformas, solamente una minoría de los encuestados (33%) está de acuerdo en que los usuarios de redes sociales deberían poder demandar legalmente a las compañías que las administran
El 51% de los encuestados estuvo de acuerdo en que se les debe de suspender permanentemente el uso de redes sociales a aquellos usuarios que las utilicen para acosar
¿Qué factores facilitan la difusión de discursos de odio en las redes sociales?
Las redes sociales, como medios digitales de interacción, tienen unos elementos particulares que facilitan el que los discursos de odio se propaguen con mayor facilidad y efectividad Entre estos podemos destacar los siguientes:
·Anonimato:
En julio de 1961, Stanley Milgram, psicólogo de la Universidad de Yale, llevó a cabo un experimento que buscaba estudiar el comportamiento de las personas para obedecer las órdenes de una figura de autoridad (Universidad Isabel I, 2021) El experimento consistió en tres personas: la autoridad (representada por el investigador), el voluntario (objeto de estudio) y la víctima (un actor) En este caso, la autoridad y la víctima estaban en acuerdo para estudiar la reacción del voluntario a través de la prueba (Universidad Isabel I, 2021) De esa manera, la autoridad le dio la instrucción al voluntario para que actuara como “maestro” haciendo ciertas preguntas a la víctima Cada vez que la respuesta no fuera correcta, el voluntario debía castigar a la víctima administrándole descargas eléctricas Ambos estaban separados por un cristal y, al otro lado, estaba la víctima sentada, atada de pies y manos para que no pudiera quitarse los electrodos (Universidad Isabel I, 2021) El voluntario podría suministrar descargas a la víctima que iban desde los 15 voltios, hasta los 450, con 30 niveles de descargas y el sistema indicaba que, a partir de los 270 voltios, la víctima corría riesgo de muerte (Universidad Isabel I, 2021)
El voluntario desconocía que la víctima era un actor, por lo que creía que realmente le proporcionaba descargas eléctricas y, por lo tanto, escuchaba sus reacciones de dolor y sus súplicas para que finalizaran las descargas (Universidad Isabel I, 2021). En ese momento, el voluntario debía realizar un razonamiento moral que lo guiara a escoger entre seguir proporcionando las descargas o abandonar el experimento El 65% de los voluntarios llegaron hasta el nivel de las descargas máximas (450 voltios), a pesar de los gritos del “alumno” y de haber sido advertidos de que, a partir de ese nivel de descargas, la víctima corría riesgo de muerte (Universidad Isabel I, 2021)
El experimento de Stanley Milgram produjo dos teorías: la del conformismo y la de cosificación La primera propone que cuando el individuo no tiene la habilidad o el conocimiento para la toma de decisiones, transfiere la responsabilidad al grupo y a la jerarquía que lo constituye (Universidad Isabel I, 2021) La segunda presenta que el sujeto que obedece una orden se considera a sí mismo como una herramienta para lograr el objetivo de otro, por lo que no se siente responsable de sus acciones (Universidad Isabel I, 2021).
En resumen, Milgram concluyó que la gente obedece a una autoridad guiados por el miedo o por el deseo de lucir cooperadores, aunque vaya en contra de su mejor juicio y voluntad (Encina, 2014)
De otra parte, si tomamos en cuenta que en el experimento Milgram los voluntarios que tenían asignada la función de “maestros” estaban separados de los “alumnos” por medio de un cristal, podríamos inferir que esta condición les producía, además, una sensación de anonimato similar a la que experimenta una persona que se comunica con otra por medio de una computadora o un teléfono inteligente, donde no hay contacto directo persona a persona Bajo esta premisa, habría que considerar cuánto contribuye el anonimato a que los individuos pierdan sus inhibiciones al momento de expresarse en un ambiente digital.
·Algoritmos y cámaras de eco:
Las cámaras de eco se crean cuando una información específica se difunde una y otra vez, mientras las opiniones contrarias se ocultan o se invisibilizan (Díaz-Campo, 2022). Si consideramos que lentamente las redes sociales han ido sustituyendo a los medios tradicionales como fuentes de información, y hasta pueda parecernos más democrático el que las personas obtengan y generen información más activamente, también debemos considerar el que las redes sociales están repletas de noticias falsas y discursos de odio que llevan a la desinformación (Díaz-Campo, 2022).
·Polarización política y social:
Los algoritmos y las cámaras de eco que se crean tienen como consecuencia la polarización política y social del pensamiento de los usuarios de redes sociales. Las personas con pensamientos polarizados tienden a ver las cosas de forma rígida, en una especie de universo en blanco y negro, sin otras tonalidades o colores (Bastida, 2021).
·Desinformación:
La Organización de las Naciones Unidas (ONU) ha clasificado la desinformación en siete tipos (UNICEF Office of Global Insight and Policy, 2021):
1) Sátira o parodia: Las parodias, aunque gozan de la protección de la Primera Enmienda de la Constitución de los Estados Unidos, pueden contribuir a la desinformación en la medida en que se difundan sin aclarar que se trata de parodias y no de eventos o expresiones reales.
2) Contexto falso: La información de contexto falso parte de antecedentes incorrectos que pueden provocar en las personas indignación innecesaria, lo que también podría moverlas a actuar equivocada e injustamente como producto de esa reacción.
1) Contenido manipulado: En este caso se trata de información verdadera que ha sido alterada de manera que resulte difícil de notar a simple vista Se manifiesta a través de información, imágenes o vídeos manipulados para engañar a otros Una de las modalidades más comunes de este tipo de desinformación son los controvertidos “deepfakes”, donde se emplea la inteligencia artificial para realizar manipulaciones que permiten sustituir rostros y cuerpos de personas reales en ilustraciones o medios audiovisuales.
2) Conexiones falsas: A través de esta modalidad se utiliza una estrategia conocida como “clickbait”, mediante la cual se construyen enlaces a lugares cuyos títulos, imágenes o subtítulos no coinciden con el contenido real Representa una especie de carnada para obtener más visitas a páginas o cuentas de redes sociales, así como vistas de vídeos u otro contenido
3) Contenido impostor: Esta modalidad se utiliza para llevar a cabo un delito conocido como “phishing” en el que se busca robar datos personales de los usuarios al motivarlos a enviar dinero, compartir información personal sensitiva, o simplemente darle más alcance a una información falsa moviéndolos a compartir enlaces. Para ello, se crean páginas falsas de entidades que aparentan ser legítimas
4) Contenido fabricado: Se construye de información completamente falsa que se hace pasar por información real. Ocurre mayormente a través de la creación de “artículos noticiosos” que copian los logos, lemas, colores y otros elementos de medios noticiosos legítimos para engañar y manipular la opinión pública.
5) Contenido engañoso: El contenido engañoso está estrechamente vinculado a la propaganda porque busca conseguir partidarios a través de la manipulación emocional de las audiencias, generando indignación confusión o miedo.
Una responsabilidad individual y colectiva
Como sabemos, la Organización de las Naciones Unidas en su Estrategia y Plan de Acción para la Lucha contra el Discurso de Odio establece que el derecho internacional no exige a los gobiernos prohibir el discurso de odio que no represente una incitación a la comisión de un acto violento o discriminatorio También el Tribunal Supremo de los Estados Unidos de América, en su decisión en Brandenburg v Ohio, 395 U S 444, (1969), ha reconocido que el discurso que no represente la incitación a la comisión de una acción ilegal goza de la protección del derecho a la libre expresión que establece la Primera Enmienda de la Constitución. Esto implica que un discurso violento también está protegido si no incita a la comisión de un acto ilegal inminente. Esta decisión fue igualmente ratificada por el Tribunal Supremo en Snyder v. Phelps, 562 US 443 (2011) cuando establecieron que el discurso catalogado como “ofensivo” o “escandaloso”, relacionado con asuntos públicos, que se realice en un espacio público, está igualmente protegido por la Primera Enmienda de la Constitución.
Ante esta realidad jurídica, establecida como protección suprema al derecho constitucional a la libre expresión, podemos concluir que erradicar el discurso de odio es una responsabilidad individual y colectiva. Combatimos el discurso de odio en la medida en que no lo originamos ni nos convertimos en facilitadores de su difusión. Creamos espacios de igualdad y respeto a la diversidad cuando denunciamos el discurso de odio y los espacios que lo promueven, no para censurar ni coartar el derecho a la libre expresión de otros, sino para educar en cuanto a qué conductas promueven la sana convivencia y cuáles nos separan y dañan a través de todas las consecuencias, directas e indirectas, que genera el discurso de odio.
La capacidad de comunicar es una de las cualidades más poderosas que poseemos los seres humanos. Sin embargo, debemos ejercerla con responsabilidad y plena conciencia de que las mismas palabras que utilizamos para construir, pueden emplearse para destruir. Esto lo resume una frase del profesor y exoficial de la Organización de las Naciones Unidas, Yama Mubtaker, quien dijo:
“Si las personas tuvieran las habilidades adecuadas y la intención de comunicarse bien, no habría conflictos. Cuanto mejor seamos en comunicarnos, mejor será nuestra calidad de vida.” (Mubtaker, 2020)
BIBLIOGRAFÍA
Bastida, G. F. (2021, abril 21). ACLAD: Acción Integral a Colectivos en Riesgo. Retrieved from El pensamiento polarizado, la rigidez mental y el miedo al cambio: https://www.aclad.net/el-pensamiento-polarizado-la-rigidezmental-y-el-miedo-al-cambio/
Cabo Isasi, A., & García Juanatey, A. (2017, diciembre). INJUVE. Retrieved from El discurso de odio en las redes: Un estado de la cuestión: https://www.injuve.es/sites/default/files/2019/02/noticias/el discurso del odio en rrss.pdf
DataReportal. (2024, febrero 23). DataReportal. Retrieved from Digital 2024: Puerto Rico: https://datareportal.com/reports/digital-2024-puerto-rico
Díaz-Campo, J. (2022, febrero 22). Redes sociales: ¿cámaras de eco o espacios para el debate? Retrieved from The Conversation: https://theconversation.com/redes-sociales-camaras-de-eco-o-espacios-para-el-debate-176759
Encina, G. B. (2014). Milgram's Experiment on Obedience to Authority. Agricultural Labor Management articles.
Laub, Z. (2019, junio 7). Council on Foreign Relations. Retrieved from Hate Speech on Social Media: Global Comparisons: https://www.cfr.org/backgrounder/hate-speech-social-media-global-comparisons? utm medium=social share&utm source=emailfwd
Mubtaker, Y. (2020). SDGs for Everyone: Let's build a better world for ourselves, for our children, and for the future generations! New York: Independently published.
ONU. (2019, mayo). ONU. Retrieved from La Estrategia y Plan de Acción de las Naciones Unidas para la Lucha contra el Discurso de Odio: https://www.un.org/en/genocideprevention/documents/Action plan on hate speech ES.pdf
Pew Research Center. (2021, January 13). Pew Research Center. Retrieved from The State of Online Harassment: https://www.pewresearch.org/internet/2021/01/13/the-state-of-online-harassment/
UNICEF Office of Global Insight and Policy. (2021). Digital Misinformation / Disinformation and Children. New York: UNICEF Office of Global Insight and Policy.
Universidad Isabel I. (2021, enero 22). Víctor Rodríguez explica el experimento de Milgram, un estudio sobre la obediencia, en el programa Magazine de la 8 Burgos. Retrieved from Tu universidad online: https://www.ui1.es/sala-de-prensa/victor-rodriguez-explica-el-experimento-de-milgram-un-estudio-sobre-laobediencia#:~:text=Este%20experimento%20comenz%C3%B3%20en%20julio,por%20cr%C3%ADmenes%20contra% 20la%20humanidad.