Detección automatizada de rage bait en contenidos de redes sociales

Abstract

La toxicidad en línea es un problema cada vez más relevante en el día a día. La sociedad está más conectada que nunca, pero con ello vienen problemas específicos. Este proyecto se enfocó en la toxicidad que tiene como objetivo provocar ira o enfado en los usuarios que son víctimas de ella. Un ejemplo de esto es el rage bait, que se utiliza para aumentar la participación y, en consecuencia, las visitas y comentarios de quienes lo emplean. Por otro lado, está el trolling, el cual también es contenido provocativo, pero con el entretenimiento personal del usuario que lo publica como objetivo. El principal objetivo de este proyecto fue diseñar y evaluar sistemas de Inteligencia Artificial que utilizan diversas técnicas del área para identificar este tipo de contenido dañino en línea. Se partió de una fuente de datos ya creada de trolling y otros tipos de toxicidad y, después de ser modificada para dejar solo ejemplos de trolling y de contenido etiquetado como normal, se utilizó para alimentar los modelos implementados. Los modelos, aprovechándose de dichos datos, adquirieron una cierta capacidad de identificar de manera automática los ejemplos marcados como trolling como una aproximación al problema de detectar rage bait. Este problema se abordó empleando modelos típicamente utilizados para el Procesamiento del Lenguaje Natural. En concreto, se consideraron tres modelos principales: un modelo de potenciación de gradiente LightGBM, una máquina de soporte vectorial (SVM) y un modelo de Aprendizaje Profundo basado en BERT llamado DeBERTaV3, desarrollado por Microsoft. El mejor modelo obtenido fue DeBERTaV3 con una Macro F1 de 0.8944 (+/- 0.0101), una Exactitud Balanceada de 0.8959 (+/- 0.0117), un Coeficiente de Correlación de Matthews de 0.7898 (+/- 0.0201) y una ROC-AUC de 0.9642 (+/- 0.0067).