La IA ayuda a Facebook contra el discurso de odio

Facebook luchó con el discurso de odio este año. Se ha eliminado una cantidad récord de contenido de odio de la plataforma social.

En un recién publicado Informe de transparencia muestra a Facebook cuánto contenido de incitación al odio se ha eliminado de forma proactiva de la plataforma. Este año, la red social se ha basado cada vez más en la inteligencia artificial.

Dos veces al año, Facebook publica el Informe de transparencia desde hace siete años. Si bien estos solían ser más una divulgación del tipo de solicitudes que el gobierno hacía para los datos de los usuarios, ahora el enfoque está en el proceso con el que se ejecuta la plataforma. contra el discurso de odio pasando. Según la información del informe, del 0,10 al 0,11 por ciento del contenido que ven los usuarios consiste en contenido que incita al odio. Eso corresponde a diez u once vistas por 10,000 vistas. Facebook afirma que encuentra cada vez más contenido y lo elimina de forma proactiva antes de que los usuarios lo vean. Facebook define el discurso de odio como contenido que ataca a otras personas en función de una determinada característica:

[…] Definimos el discurso de odio como todo aquello que ataca directamente a las personas en función de características protegidas, incluida la raza, la etnia, el origen nacional, la afiliación religiosa, la orientación sexual, el sexo, el género, la identidad de género o una discapacidad o enfermedad grave.

IA en lugar de moderadores: ¿pero con qué rapidez se adapta la tecnología?

Este año, Facebook realizó algunos cambios en sus propias políticas. La compañía primero prohibió los contenidos del grupo conspirativo QAnon y luego los de los negadores del Holocausto. Facebook también tuvo que encontrar una línea clara con respecto al contenido sobre la pandemia de la corona. Las nuevas pautas y un lenguaje cambiante que retoma los nuevos eventos dificultaron la identificación a tiempo del contenido para prohibir. Después de todo, la IA aún no está capacitada en este contenido y los moderadores de contenido no deben estar expuestos a cierto contenido en la oficina en casa. Sin embargo, dice en el Informe de cumplimiento de normas comunitarias, que es parte del informe de transparencia de que el 95 por ciento del contenido de odio ahora se puede eliminar antes de que los usuarios lo denuncien.

© Facebook

Como puede ver en el gráfico, Facebook ha logrado una mejora asombrosa en comparación con años anteriores. En 2017, solo alrededor del 24 por ciento del contenido se eliminó de forma proactiva. Además, la cantidad de contenido eliminado aumentó drásticamente. Si bien se eliminaron alrededor de 645,000 piezas de contenido en el último trimestre de 2019, fue de 6.5 millones en el tercer trimestre de 2020.

Sin embargo, se critica a Facebook por no hacer lo suficiente para combatir el discurso de odio. En un reciente Audiencia del senado Tanto Mark Zuckerberg para Facebook como Jack Dorsey para Twitter defendieron sus prácticas de moderación de contenido. Al final, ambos parecían dispuestos a tomar medidas contra el discurso de odio, aunque a su propio ritmo durante los próximos años.

En el documento técnico “Reputación en línea del factor de éxito”, descubrirá cómo los pioneros en este campo se defienden frente a la corriente principal, y cómo usted también puede optimizar su reputación.

¡Descargue el informe de estado ahora!


Source: OnlineMarketing.de by onlinemarketing.de.

*The article has been translated based on the content of OnlineMarketing.de by onlinemarketing.de. If there is any problem regarding the content, copyright, please leave a report below the article. We will try to process as quickly as possible to protect the rights of the author. Thank you very much!

*We just want readers to access information more quickly and easily with other multilingual content, instead of information only available in a certain language.

*We always respect the copyright of the content of the author and always include the original link of the source article.If the author disagrees, just leave the report below the article, the article will be edited or deleted at the request of the author. Thanks very much! Best regards!