Sentropy : Programa para moderación de contenido

Sentropy es una herramienta para la moderación automática de contenidos basada en machine learning y centrada en los seres humanos. 

¿Cómo funciona Sentropy?

En colaboración con lingüistas, miembros de comunidades online y moderadores de contenidos, establecieron una tipología de cuatro clases principales de discurso tóxico, divididas a su vez en trece subclases. Sentropy pone a disposición una lista simplificada de estos discursos en los documentos de la API.

La anotación de datos y la iteración de las definiciones de clases tóxicas es un bucle de retroalimentación interminable que toma en cuenta nuevos dominios y formas de lenguaje tóxico.  La solución etiqueta rápidamente y con precisión grandes cantidades de datos. 

Ventajas de Sentropy

Soporte multilingüe

Los modelos iniciales han sido pensados en inglés. Sin embargo, se han producido investigaciones recientes sobre PNL multilingüe, por lo cual es posible entrenar modelos que son efectivamente "multilingües" y compartir datos etiquetados en todos los idiomas.

Evolución del lenguaje

Los significados de las palabras cambian con el tiempo; cada día se inventa un nuevo lenguaje tóxico y los términos antiguos caen en desuso. Sentropy mantiene la base de datos actualizada y verifica constantemente la calidad de la información gracias a una base de datos dinámica.

Evaluación del rendimiento

Debido a la naturaleza siempre cambiante del lenguaje, es necesario no solo actualizar regularmente los conjuntos de pruebas, sino también comprobar el comportamiento de los modelos.

Sentropy posee varios fragmentos de datos claramente definidos que representan ciertas comunidades, patrones lingüísticos específicos e incluso temas semánticos como los juegos o los deportes. Esta organización garantiza que no se pierda nada en el conjunto al evaluar los modelos, y les ayuda a diagnosticar y corregir rápidamente los errores del modelo a medida que surgen.