Los nuevos avances en la inteligencia artificial (IA) alumbran un futuro inquietante por las potenciales amenazas a la seguridad que implican. La IA generativa multimodal, los deep fakes o las clonaciones de voz ya están siendo utilizados en campañas de influencia en redes sociales por actores estatales y no estatales. No obstante, a medida que las amenazas adquieren una mayor complejidad técnica, mayor es también la necesidad de desarrollar tecnologías capaces de enfrentarlas.

Esta ponencia presenta una revisión de la literatura que analiza los últimos avances en el procesamiento del lenguaje natural (PLN) y explora su potencial aplicación en el ámbito de la seguridad nacional. El PLN, rama de la IA aplicada al lenguaje, es un área en plena transformación. El descubrimiento de nuevas tecnologías en los últimos años ha provocado un desarrollo vertiginoso en este ámbito, culminado con la eclosión de los grandes modelos de lenguaje como GPT-4 y la IA generativa.  

Esta revolución, además de generar amenazas, ha abierto un abanico de posibilidades para la seguridad nacional, toda vez que las tareas de prevención y detección de contenido manipulativo también están refinándose. Algunas de estas técnicas ya se están empleando por Gobiernos y otras organizaciones especializadas. Entre estas destacan la detección automatizada de fake news, bots, trolls, contenido generado por inteligencia artificial, lenguaje violento y radicalizado, discursos de odio, conspiraciones, lenguaje sexista, técnicas de propaganda, narrativas estratégicas, falacias retóricas, sentimientos y polarización.

No obstante, la aplicación de estas herramientas encuentra importantes retos. A la falta de colaboración por parte de las principales plataformas de redes sociales se le unen los sesgos de los grandes modelos de lenguaje. La necesidad de perfiles multidisciplinares especializados y la integración entre las ciencias sociales y computacionales son a la vez un desafío y una oportunidad para la ciencia política, que debería jugar un papel central en el desarrollo de herramientas de IA aliadas de la seguridad nacional.