El reto de la discriminación en la IA del sector público

Autor principal:
Amir Al Hasani Maturano (Universidad de las Islas Baleares)
Programa:
Sesión 1, Sesión 1
Día: lunes, 22 de julio de 2024
Hora: 10:30 a 12:15
Lugar: ROMEROS (340)

El trabajo pretende ofrecer una conceptualización de sesgos y discriminación algorítmica en el ámbito del sector público. Para ello se presentan algunos criterios de cara a determinar cuándo los usos públicos de IA tienen un impacto discriminatorio prohibido. Ya que una implementación de la IA en el desarrollo de la gestión pública para la toma de decisiones administrativas mediante algoritmos, requiere el cumplimiento de los principios y valores constitucionales. Además de otros principios exigidos a las Administraciones. Los sistemas, en ocasiones, cometen sesgos que tienen una relevancia que llevará a un trato diferenciador. Pero no solo, sino que hay otras causas no automatizadas. En suma, se pretende centrar algunos criterios que permitan considerar que usos públicos han sido discriminatorios. Resultará esencial un examen de los factores que determinan un empleo inadecuado previamente a su desarrollo normativo o su aplicabilidad.

 

Palabras clave: Inteligencia Artificial; discriminación; sector público; derechos fundamentales