una IA para detectar a quienes eluden una prohibición

Ante el problema del acoso en línea y las redadas de odio que pueden apuntar a un canal, la plataforma de transmisión de video Twitch anuncia una herramienta de detección de usuarios sospechosos para ayudar a detectar a los usuarios que intentan eludir una prohibición.

La detección de estos usuarios sospechosos se basará en el aprendizaje automático. En la mira, los usuarios que crean nuevas cuentas, por ejemplo, regresan a las discusiones para continuar con su comportamiento abusivo.

Basándose en el análisis de tales señales y con modelos obtenidos de prohibiciones anteriores, la herramienta distinguirá entre usuarios que posiblemente o probablemente eviten una prohibición.

Una IA que no prohíbe por sí sola

Esta distinción influirá en qué mensajes se enviarán o no y si se mostrarán públicamente o no. Garantía a los creadores y moderadores alertados de monitorear la situación para tomar acciones si es necesario, y con un posible ajuste de la herramienta.

Ningún aprendizaje automático será 100% preciso, lo que significa que existe la posibilidad de falsos positivos o falsos negativos. Esta es la razón por la que la Detección de usuarios sospechosos no prohíbe automáticamente a todos los estafadores posibles o probables. “, souligne Twitch.

El verano pasado, algunos streamers populares provocaron una protesta contra la proliferación de mensajes de odio, racismo y acoso en la plataforma de Amazon. La herramienta de detección de usuarios sospechosos estará habilitada de forma predeterminada en todos los canales de Twitch.


Source: GNT – actualités by www.generation-nt.com.

*The article has been translated based on the content of GNT – actualités by www.generation-nt.com. If there is any problem regarding the content, copyright, please leave a report below the article. We will try to process as quickly as possible to protect the rights of the author. Thank you very much!

*We just want readers to access information more quickly and easily with other multilingual content, instead of information only available in a certain language.

*We always respect the copyright of the content of the author and always include the original link of the source article.If the author disagrees, just leave the report below the article, the article will be edited or deleted at the request of the author. Thanks very much! Best regards!