La violencia de género es un problema complejo que está presente en la agenda pública en España y que ha suscitado el desarrollo de políticas públicas para avanzar hacia su prevención y erradicación. Ante este panorama, han surgido iniciativas, tanto en el sector público como en el privado, que buscan abordar esta situación de manera integral, y se ha propuesto, en muchos casos, el uso de herramientas tecnológicas para contribuir al combate de este problema (Cookson et al., 2023).

Este trabajo presentará el estudio de caso del chatbot AinoAid (https://ainoaid.fi), desarrollado en el marco de un proyecto europeo, con la participación en España de la Policía Local de Valencia, la Universidad de Deusto y la asociación Askabide. El objetivo principal de esta herramienta es ayudar a las víctimas de violencia de género a reconocer el problema y buscar apoyo. La herramienta está en fase piloto y, por el momento, se desconoce si se implementará en alguna organización pública o privada. De todos modos, los detalles sobre el caso ofrecen información valiosa para avanzar hacia la comprensión de los factores que pueden incidir en el diseño y uso de este tipo de sistemas de manera responsable y ética, y el rol que tienen las organizaciones públicas en estos procesos.

El objetivo principal de este trabajo es responder a las siguientes preguntas de investigación: ¿Hasta qué punto la colaboración entre diferentes sectores facilita el diseño de herramientas algorítmicas y de IA centradas en las necesidades de las víctimas de violencia de género? ¿Cuál es el rol del sector público en estas iniciativas de colaboración para el diseño de algoritmos? ¿Cómo se manifiestan las dinámicas de poder entre los actores participantes y qué implicaciones tienen estas dinámicas en el diseño final de los sistemas algorítmicos y de IA?

El material empírico que sirve de base para responder a estas cuestiones consiste en 6 entrevistas en profundidad a 7 actores clave en el proyecto europeo (3 representantes de la Policía Local de Valencia, 1 de la Universidad de Deusto, 1 de la Asociación Askabide, y 2 de la empresa desarrolladora del chatbot), documentos relacionados con la iniciativa, y el contenido del propio chatbot, extraído mediante interacciones con la herramienta.

Referencias

Cookson, T. P., Fuentes, L., Zulver, J. M., & Nelson, A. (2023). Fit for purpose? Assessing the accessibility, theory of action, and accountability of digital technology interventions for sexual and gender-based violence prevention and response. Gender, Technology and Development, 27(2), 184-206. https://doi.org/10.1080/09718524.2023.2182035