El creciente despliegue de sistemas de inteligencia artificial (IA) en la Administración Pública, especialmente en ámbitos como la tramitación automatizada de expedientes, la prestación de servicios electrónicos y la toma de decisiones asistida, ha evidenciado la aparición de efectos adversos con impacto directo en la ciudadanía. Entre ellos, destacan los sesgos algorítmicos, particularmente en sistemas de asignación de recursos, que pueden generar distribuciones inequitativas.

Estos sesgos pueden derivar en formas de discriminación sistemática hacia colectivos vulnerables. Por ejemplo, determinados modelos de predicción de reincidencia criminal tienden a clasificar erróneamente como de alto riesgo a individuos pertenecientes a minorías. Asimismo, las personas con discapacidad enfrentan barreras derivadas tanto de interfaces no accesibles como de algoritmos que incorporan estándares sesgados de “normalidad” en la evaluación de prestaciones o en procesos de selección.

En este contexto, el Reglamento (UE) 2024/1689 (Ley de IA) constituye el primer marco jurídico a nivel global para regular el desarrollo y uso de sistemas de IA. Basado en un enfoque de gestión de riesgos, establece obligaciones para garantizar sistemas fiables, seguros y centrados en el ser humano.

No obstante, aunque el Reglamento incorpora mecanismos para mitigar riesgos y prevenir la discriminación, la integración explícita de los principios de diversidad, equidad e inclusión (DEI) en su aplicación práctica sigue siendo limitada.

Ante esta carencia, este trabajo propone un marco teórico para el diseño de sistemas de IA en la Administración Pública basado en el enfoque DEI. Dicho marco integra elementos identificados tanto en la literatura académica como en la Ley de IA, y tiene en cuenta la heterogeneidad de los usuarios, incorporando criterios éticos y de justicia social en el diseño algorítmico. Como resultado, se ofrece una herramienta orientada a guiar el desarrollo de sistemas de IA más inclusivos y accesibles en el ámbito público.