Las tecnologías digitales han supuesto una auténtica revolución en las comunicaciones. Los ciudadanos cuentan con canales de información nuevos, interactivos y mucho más directos que los medios tradicionales. Sin embargo, de manera paralela a estas oportunidades comunicativas han surgido un conjunto de amenazas, como los bulos y la proliferación de discursos de odio, que pueden derivar en problemas sociales. Para atajarlos, el Centro de Información de Seguridad de la Provincia de Alicante (CENID) ha sentado las bases para el desarrollo de una herramienta que velará por la ciberseguridad socia, para combatir discursos de odio y bulos.
La investigadora del Departamento de Lenguajes y Sistemas Informáticos de la Universidad de Alicante, Estela Saquete, ha liderado un análisis centrado en el ámbito municipal, que ha servido para detectar las posibles ciberamenazas sociales, el discurso de odio o el discurso ofensivo, el contenido falso o incompleto y también la detección de contenido generado por inteligencia artificial.
Para el desarrollo de esta investigación se han aplicado técnicas de inteligencia artificial y de procesamiento del lenguaje natural, que han servido también para proponer posibles soluciones a las amenazas a la información difundida a través de canales digitales.
Qué técnicas de inteligencia artificial se emplean para velar por la ciberseguridad social
Estela Saquete explica que para el desarrollo del análisis de estas ciberamenazas a la información se ha empleado el procesamiento del lenguaje natural, una técnica de inteligencia artificial que aprende de los datos facilitados por los investigadores.
Los sistemas de aprendizaje automáticos y de procesamiento natural aprenden con un conjunto de documentos con anotaciones, «en las que se marcan las expresiones de odio y las pistas que para identificar informaciones confiables», afirma Estela Saquete.
Concretamente, el equipo del CENID ha trabajado con noticias sobre las administraciones públicas y comentarios en redes sociales relacionados con la administración pública, principalmente.
Qué aspectos se han estudiado en los textos analizados
En análisis de las amenazas de ciberseguridad social ha exigido un estudio de los contenidos a nivel textual, la desinformación, la violencia y la detección de texto generado automáticamente.
La detección de texto generado automáticamente ha sido una tarea relativamente sencilla, dice la investigadora, porque «las máquinas son muy buenas detectando texto generado automáticamente».
La detección del lenguaje violento también tampoco ha supuesto ningún problema, gracias a las catalogaciones de determinadas expresiones. Sin embargo, el trabajo se ha complicado cuando los insultos se camuflan con formas textuales más sutiles, como las metáforas.
En cuanto a la desinformación, el trabajo del equipo del CENID se ha centrado en la confiabilidad del lenguaje.
Asimismo, en este proyecto se ha incluido un apartado para ayudar a los creadores de informaciones de la propia administración, a evitar textos ambiguos, en los que falte información y poco concretos.
Otra cuestión que no hemos abordado es la de corroborar la información, porque nosotros nos hemos centrado en el contenido y no en el contexto.
Resultados del análisis de las amenazas a la información
Los resultados del análisis de las amenazas a la información veraz y los discursos de odio se han plasmado en un informe entregado a las administraciones, donde se han expresado las problemáticas detectadas y las herramientas para abordarlas.
Tras la presentación de este informen, el equipo del CENID tiene previsto solicitar un proyecto nacional o autonómico, que le permita profundizar más en este campo de estudio y desarrollar herramientas concretas para combatir estas amenazas a la información pública en Internet.
