El Dr. Eduardo Silva Alvarado, director de la Fundación Universitaria Iberoamericana (FUNIBER) en Guatemala, participa en un estudio que ha desarrollado un modelo innovador para la detección automática de discursos de odio en redes sociales. Este avance aborda los desafíos inherentes a la identificación de contenido ofensivo en entornos digitales multilingües y multimodales.
El auge de las redes sociales ha facilitado la comunicación global, permitiendo a los usuarios compartir información en diversos formatos y lenguajes. Sin embargo, esta expansión también ha propiciado la difusión de discursos de odio, que pueden manifestarse en textos, imágenes y videos, y en múltiples idiomas. La detección de este tipo de contenido es esencial para mantener entornos digitales seguros y respetuosos.
Tradicionalmente, los sistemas de detección de discursos de odio se han centrado en análisis monolingües y en un único tipo de contenido, principalmente texto. Estos enfoques presentan limitaciones significativas al enfrentarse a la diversidad lingüística y a la naturaleza multimodal de las publicaciones en redes sociales. La falta de herramientas capaces de abordar estas complejidades ha dificultado la identificación efectiva de contenido ofensivo en contextos multilingües y multimodales.
El estudio en cuestión introduce un modelo que combina técnicas avanzadas de procesamiento de lenguaje natural y análisis de imágenes para detectar discursos de odio en múltiples idiomas y formatos de contenido. Este enfoque integrado permite una identificación más precisa y eficiente de contenido ofensivo en entornos digitales diversos.
Para desarrollar este modelo, el equipo recopiló un conjunto de datos multilingüe y multimodal que incluye textos, imágenes y videos con contenido etiquetado como discurso de odio. Se emplearon técnicas de aprendizaje profundo para entrenar el modelo en la identificación de patrones asociados con el discurso de odio en diferentes idiomas y formatos de contenido.
Resultados relevantes
Los resultados del estudio muestran que el modelo propuesto supera a los enfoques tradicionales en la detección de discursos de odio en contextos multilingües y multimodales. La capacidad del modelo para analizar simultáneamente texto e imágenes en múltiples idiomas mejora significativamente la precisión y la eficiencia en la identificación de contenido ofensivo.
Este avance tiene implicaciones importantes para la moderación de contenido en plataformas de redes sociales, permitiendo una respuesta más rápida y efectiva ante la difusión de discursos de odio. Además, el modelo puede adaptarse a diferentes contextos culturales y lingüísticos, lo que lo convierte en una herramienta valiosa para la promoción de entornos digitales más seguros e inclusivos.
Si quieres conocer más sobre este estudio, haz clic aquí.
Para leer más investigaciones, consulta el repositorio de UNEATLANTICO.
La Fundación Universitaria Iberoamericana (FUNIBER) ofrece becas para estudiar la Maestría en Dirección Estratégica en Tecnologías de la información. Este programa está diseñado para profesionales que buscan comprender y dominar el proceso estratégico de las TI como parte del desarrollo empresarial, abordando temas como la gestión del cambio organizacional, la innovación empresarial y la dirección de proyectos tecnológicos. No pierdas la oportunidad de impulsar tu carrera en el ámbito de las TI. Inscríbete ahora en esta maestría y conviértete en un líder en la transformación digital de las organizaciones.