Discurso de odio en línea

un análisis de las políticas de moderación de contenidos de las plataformas digitales

Autores/as

DOI:

https://doi.org/10.30962/ec.2709

Palabras clave:

El discurso del odio, Plataformas digitales, Moderación de contenido, La libertad de expresión, Investigación documental

Resumen

El objetivo de este artículo es comprender la moderación del discurso de odio en Facebook, Instagram, TikTok, Twitch, Twitter y YouTube mediante el análisis de sus condiciones de uso y directrices comunitarias. En el debate se analizan cuatro factores: la conceptualización del discurso del odio; la definición de las categorías protegidas; los criterios para evaluar las denuncias; y las sanciones. Por último, discutimos tres puntos comunes a las directrices comunitarias: los valores de las plataformas; los retos contextuales y lingüísticos; y las interlocuciones y prácticas de moderación. La conclusión apunta que estos puntos sustentan la gobernanza del discurso de odio en las plataformas analizadas.

Descargas

Los datos de descargas todavía no están disponibles.

Biografía del autor/a

Luiza Carolina dos Santos, Universidade Estadual de Ponta Grossa, Ponta Grossa, Paraná, Brasil

Doctora en Comunicación e Información (UFRGS) y profesora suplente en la Universidad Estadual de Ponta Grossa (UEPG). Coordina el Grupo de Investigación en Tecnologías y Culturas Digitales de Intercom.

Renata Tomaz, Fundação Getulio Vargas, Rio de Janeiro, Rio de Janeiro, Brasil

Periodista con doctorado y maestría en Comunicación y Cultura (ECO/UFRJ). Posee posdoctorado en el Programa de Posgrado en Medios y Vida Cotidiana (PPGMC/UFF). Profesora de la tEscuela de Comunicación, Medio e Información de la Fundação Getulio Vargas (FGV ECMI).

Dalby Dienstbach, Fundação Getulio Vargas, Rio de Janeiro, Rio de Janeiro, Brasil

Doutor em Estudos da Linguagem pela Universidade Federal Fluminense (UFF) e professor adjunto na Escola de Comunicação, Mídia e Informação da Fundação Getulio Vargas (FGV ECMI).

Eurico Matos, Fundação Getulio Vargas, Rio de Janeiro, Rio de Janeiro, Brasil

Doctor y mestre en Comunicación y Cultura Contemporáneas de la Universidad Federal de Bahía.  Profesor de la Escuela de Comunicación, Medios e Informalización de la Fundação Getulio Vargas (FGV ECMI) y del Instituto Nacional de Ciencia y Tecnología en Democracia Digital (INCT.DD).

Danielle Sanches, Fundação Getulio Vargas, Rio de Janeiro, Rio de Janeiro, Brasil

Doctora en Historia de las Ciencias de la EHESS/Paris en Cotutela con el COC-Fiocruz y profesora de la Escuela de Comunicación, Medios e Información de la Fundação Getulio Vargas (FGV ECMI).

Citas

BEN-DAVID, A.; MATAMOROS-FERNÁNDEZ, A. Hate Speech and Covert Discrimination on Social Media: Monitoring the Facebook Pages of Extreme-Right Political Parties in Spain. International Journal of Communication, v. 10, p. 1167-1163, 2016.

BENESCH, S. Defining and Diminishing Hate Speech. In: MINORITY RIGHTS GROUP International. State of the World’s Minorities and Indigenous Peoples. Londres, 2014. p. 18-25.

BHATIA, V. Worlds of Written Discourse: a Genre-Based View. Londres: Continuum, 2004.

BOWMAN-GRIEVE, L. Exploring Stormfront: a Virtual Community of the Radical Right. Studies in Conflict and Terrorism, v. 11, n. 31, p. 989-1007, 2009.

BRASIL. Constituição da República Federativa do Brasil. Brasília, 1988. Disponível em: <http://www.planalto.gov.br/ccivil_03/constituicao/constituicaocompilado.htm>. Acesso em: 25 fev. 2021.

______. Lei n. 7.716, de 5 de janeiro de 1989. Define os crimes resultantes de preconceito de raça ou de cor. Disponível em: <http://www.planalto.gov.br/ccivil_03/leis/l7716.htm>. Acesso em: 26 fev. 2021.

______. Lei n. 12.965, de 23 de abril de 2014. Estabelece princípios, garantias, direitos e deveres para o uso da Internet no Brasil. Disponível em: <http://www.planalto.gov.br/ccivil_03/_ato2011-2014/2014/lei/l12965.htm>. Acesso em: 26 fev. 2021.

BROWN, A. What is So Special About Online (as Compared to Offline) Hate Speech? Ethnicities, v. 18, n. 3, p. 297-326, 2018.

BRUGGER, W. Proibição ou proteção do discurso de ódio? Algumas observações sobre o Direito Alemão e o Americano. Revista Direito Público, v. 15, p. 117-63, 2007.

BUYSE, A. Words of Violence: Fear Speech, or How Violent Conflict Escalation Relates to the Freedom of Expression. Human Rights Quarterly, v. 36, p. 779-797, 2014.

CANÇADO, M. Manual de semântica: noções básicas e exercícios. 2. ed. São Paulo: Contexto, 2012.

COLLEONI, E.; ROZZA, A.; ARVIDSSON, A. Echo Chamber or Public Sphere? Predicting Political Orientation and Measuring Political Homophily in Twitter Using Big Data. Journal of Communication, n. 64, v. 2, p. 317-332, 2014.

CRAWFORD, K.; GILLESPIE, T. What is a Flag For? Social Media Reporting Tools and the Vocabulary of Complaint. New Media & Society, v. 18, n. 3, p. 410-428, 2016.

D’ANDRÉA, C. Pesquisando plataformas online: conceitos e métodos. Salvador: EDUFBA, 2020.

FARIS, R. et al. Understanding Harmful Speech Online. Berkman Klein Center Research Publication, n. 2016-21, p. 1-19, 2016. Disponível em: <https://papers.ssrn.com/sol3/papers.cfm?abstract%5Fid=2882824>. Acesso em: 1 mar. 2021.

GAGLIARDONE, I. et al. Countering Online Hate Speech. Paris: Unesco Publishing, 2015.

GAGLIARDONE, I. Extreme Speech | Defining Online Hate and Its “Public Lives”: What is the Place for “Extreme Speech”?. International Journal of Communication, v. 13, p. 3068-3087, 2019.

GILLESPIE, T. Custodians of the Internet: Platforms, Content Moderation, and the Hidden Decisions That Shape Social Media. New Heaven: Yale University Press, 2018.

______. Content Moderation, AI, and the Question of Scale. Big Data & Society, p. 1-5, jul.-dez. 2020.

GONTIJO, A. Governança e moderação de conteúdo: uma análise da plataforma Twitter entre 2018 e 2021. Dissertação (Mestrado em Comunicação Social) – Faculdade de Filosofia e Ciências Humanas, Universidade Federal de Minas Gerais, Belo Horizonte, 2021.

JIANG, J. A. et al. Characterizing Community Guidelines on Social Media Platforms. In: CONFERENCE COMPANION PUBLICATION of the 2020 on Computer Supported Cooperative Work and Social Computing. CSCW’20 Companion, Estados Unidos, p. 287-291, out. 2020. Disponível em: <https://dl.acm.org/doi/pdf/10.1145/3406865.3418312>. Acesso em: 4 fev. 2022.

JURNO, A. C.; D’ANDRÉA, C. (In)visibilidade algorítmica no “feed de notícias” do Facebook. Revista Contemporânea, v. 15, n. 2, p. 463-484, 2017.

KONIKOFF, D. Gatekeepers of Toxicity: Reconceptualizing Twitter’s Abuse and Hate Speech Policies. Policy Studies Organization, v. 13, p. 502-521, 2021.

LAVI, M. Do Platforms Kill?. Harvard Journal of Law & Public Policy, v. 43, p. 477-573, 2020. Disponível em: <https://heinonline.org/HOL/P?h=hein.journals/hjlpp43&i=492>. Acesso em: 18 maio 2022.

LUCCAS, V. N.; GOMES, F. V.; SALVADOR, J. P. F. Guia de análise de discurso de ódio. Rio de Janeiro: Fundação Getulio Vargas, 2020. Disponível em: <https://www.conib.org.br/wp-content/uploads/2019/11/Guia-de-An%C3%A1lise-de-Discurso-de-%C3%93dio.pdf>. Acesso em: 26 fev. 2021.

OBAR, J.; OELDORF-HIRSCH, A. The Biggest Lie on the Internet: Ignoring the Privacy Policies and Terms of Service Policies of Social Networking Services. Information, Communication & Society, v. 23, n. 1, p. 128-147, 2020.

ONU – Organização das Nações Unidas. Carta das Nações Unidas. São Francisco: ONU, 1945. Disponível em: <https://www.un.org/en/charter-united-nations/index.html>. Acesso em: 26 fev. 2021.

ONU – Organização das Nações Unidas. Declaração Universal dos Direitos Humanos. Paris: ONU, 1948. Disponível em: <https://www.un.org/en/universal-declaration-human-rights/>. Acesso em: 26 fev. 2021

ORLANDI, E. Análise de discurso: princípios e procedimentos. 5. ed. Campinas: Pontes, 2005.

ROBERTS, S. Behind the Screen: Content Moderation in the Shadows of Social Media. New Haven: Yale University Press, 2019.

RUEDIGER, M. A.; GRASSI, A. (coord.). Discurso de ódio em ambientes digitais: definições, especificidades e contexto da discriminação on-line no Brasil a partir do Twitter e do Facebook. Rio de Janeiro: FGV DAPP, 2021.

SÁ-SILVA, J.; ALMEIDA, C.; GUINDANI, J. Pesquisa documental: pistas teóricas e metodológicas. Revista Brasileira de História & Ciências Sociais, v. 1, n. 1, p. 1-15, jul. 2009.

SALEEM, H. M. et al. A Web of Hate: Tackling Hateful Speech in Online Social Spaces. arXiv, preprint arXiv:1709.10159, 2017.

SIEGEL, A. Online Hate Speech. In: PERSILY, N.; TUCKER, J. (Orgs.). Social Media and Democracy. Cambridge: Cambridge University Press, 2020. p. 56-88.

SILVA, L. et al. Analyzing the Targets of Hate in Online Social Media. In: PROCEEDINGS OF THE TENTH International AAAI Conference on Web and Social Media, 2016. Disponível em: <https://arxiv.org/abs/1603.07709v1>. Acesso em: 8 out. 2023.

______; BOTELHO-FRANCISCO, R.; OLIVEIRA, A.; PONTES, V. A gestão do discurso de ódio nas plataformas de redes sociais digitais: um comparativo entre Facebook, Twitter e YouTube. Revista Ibero-Americana de Ciência da Informação, v. 12, n.2, p. 470-492, 2019. Disponível em: <https://periodicos.unb.br/index.php/RICI/article/view/22025/21351>. Acesso em: 2 nov 2023.

______; BOTELHO-FRANCISCO, R. E. Gestão de conteúdo de ódio no Facebook: um estudo sobre haters, trolls e naysayers. P2P e Inovação, [S. l.], v. 6, n. 2, p. 38-56, 2020. Disponível em: <https://revista.ibict.br/p2p/article/view/5114>. Acesso em: 18 maio 2022.

VIVERITO, C. V.; BERTUCCI, P. Inclusão de pessoas transgêneras e não binárias no local de trabalho brasileiro. Califórnia: Out & Equal Workplace Advocates, 2020.

WEAVER, S. A Rhetorical Discourse Analysis of Online Anti-Muslim and Anti-Semitic Jokes. Ethnic and Radical Studies, v. 3, n. 36, p. 483-499, 2013.

Descargas

Publicado

04-09-2023

Cómo citar

dos Santos, L. C., Tomaz, R., Dienstbach, D., Matos, E., & Sanches, D. (2023). Discurso de odio en línea: un análisis de las políticas de moderación de contenidos de las plataformas digitales. E-Compós, 26. https://doi.org/10.30962/ec.2709

Número

Vol. 26 (2023): E-Compós 2023

Sección

Artigos Originais

Licencia

Derechos de autor 2021 Luiza Carolina dos Santos, Renata Tomaz, Dalby Dienstbach, Eurico Matos, Danielle Sanches

Creative Commons License

Esta obra está bajo una licencia internacional Creative Commons Atribución-SinDerivadas 4.0.

La sumisión de originales para este periódico implica la transferencia, por los autores, de los derechos de publicación impresa y digital. Los derechos de autor para los artículos publicados son del autor, con derecho del periódico sobre la primera publicación. Los autores sólo podrán utilizar los mismos resultados en otras publicaciones, indicando claramente este periódico como el medio de publicación original. En virtud de ser un periódico de acceso abierto, se permite el uso gratuito de los artículos en aplicaciones educativas, científicas, no comerciales, desde que la fuente original sea citada.

Autoría

Se entiende como autor todo aquel que haya participado efectivamente en la concepción, desarrollo de la parte experimental, del análisis e interpretación de los datos y de la redacción final del estudio. Al someter un artículo para publicación en la Revista E-Compós, el autor concuerda con los siguientes términos: 1. El autor mantiene los derechos sobre el artículo, pero su publicación en la revista implica, automáticamente, la cesión integral y exclusiva de los derechos autorales para la primera edición, exento de pago. 2. Las ideas y opiniones expresadas en el artículo son de exclusiva responsabilidad del autor, sin que refleje, necesariamente, las opiniones de la revista. 3. Después de la primera publicación, el autor tiene autorización para asumir contratos adicionales, independientes a la revista, para la divulgación del trabajo por otros medios (ej. Publicar en repositorio institucional o como capítulo de libro), desde que exista una citación completa de la misma autoría y de la publicación original. 4. El autor de un artículo ya publicado tiene permiso e es estimulado para distribuir su trabajo online, siempre con las debidas citas a la primera edición.

Conflictos de intereses y ética de investigación

En caso de que la investigación desarrollada o la publicación del artículo puedan generar dudas sobre posibles conflictos de intereses, el autor debe declarar, mediante una nota final, que no se fue omitido cualquier vínculo a organismos de financiamiento, así como a instituciones comerciales o políticas. De igual modo, se debe mencionar la institución a la que el autor eventualmente esté vinculado, o que haya colaborado en la ejecución del estudio, evidenciando no existir conflictos de intereses, de cualquier índole, con el resultado presentado. También es necesario informar que las entrevistas y los ensayos que involucren seres humanos obedecieron los procedimientos éticos establecidos para la investigación científica. Los nombres y direcciones informados en esta revista serán utilizados exclusivamente para los servicios prestados por esta publicación, no estando disponibles para otros fines o para terceros. Los derechos de autor pertenecen exclusivamente a los autores. Los derechos de licencia utilizados por el periódico consisten en la licencia Creative Commons Attribution 4.0 (CC BY 4.0): está permitida la socialización (copia y distribución del material en cualquier medio o formato) y adaptación (remix, transformación y creación de material), a partir del contenido con licencia para cualquier propósito, incluso comercial.