El Consejo de Transparencia y Protección de Datos de Andalucía ha puesto en marcha una herramienta metodológica para el uso responsable de la inteligencia artificial en las administraciones públicas andaluzas. Esta iniciativa busca facilitar el cumplimiento de la normativa de protección de datos y ofrecer un marco de seguridad jurídica a los proyectos de IA en el sector público andaluz, en línea con las conclusiones del Plan de Control e Inspección en el Sector Público Andaluz 2023-2025.
La implantación de sistemas de inteligencia artificial (SIA) en las administraciones avanza de forma sostenida, se extiende a más ámbitos y tiene un impacto cada vez mayor en la ciudadanía. En este escenario complejo, la herramienta pretende integrar aspectos normativos, tecnológicos, organizativos y procedimentales para orientar una innovación responsable y garantizar la protección de datos personales.
El Consejo ha detectado varios retos en la aplicación de soluciones basadas en IA que implican tratamiento de datos personales. Entre ellos, la necesidad de reforzar las capacidades y recursos de las entidades, sobre todo las de menor tamaño; mejorar la metodología y la aplicación práctica de los análisis de riesgos y de las Evaluaciones de Impacto en la Protección de Datos (EIPD); profundizar en el examen de necesidad y proporcionalidad de los tratamientos; e integrar de manera efectiva al DPD desde las fases iniciales de cada proyecto.
Inteligencia artificial responsable y protección de datos
La metodología se presenta como una guía paso a paso que acompaña a los responsables públicos desde la concepción del proyecto de IA hasta su puesta en producción. Se adapta al tipo y a la complejidad de cada iniciativa en el sector público andaluz, aplicando distintos niveles de exigencia en función del riesgo y del impacto potencial sobre los derechos de las personas.
El grado de control varía, por ejemplo, entre un sistema sencillo de gestión documental y otro destinado a decidir sobre la posible adaptación curricular del alumnado o a identificar a personas mayores en situación de soledad no deseada. Cuanto mayor es el impacto potencial del sistema de inteligencia artificial, más intenso es el nivel de supervisión previsto por la herramienta; cuando el riesgo es menor, los requisitos se reducen.
El sistema comienza con un cuestionario claro sobre el tipo de proyecto, los datos que se tratarán y los colectivos afectados. A partir de estas respuestas, configura automáticamente la secuencia de pasos y el nivel de verificación necesario, que va desde 40 controles para proyectos básicos hasta 161 controles para los sistemas más complejos, reforzando así la protección de datos en cada escenario.
Otro rasgo relevante es su vinculación con los procesos de licitación pública. La protección de datos se incorpora desde el inicio del proyecto, desde la redacción de los pliegos hasta la recepción del sistema, evitando que se trate como un añadido final. La herramienta orienta sobre qué requisitos incluir en los pliegos y permite supervisar durante el desarrollo que las medidas de seguridad y garantías se aplican de forma adecuada.
Aunque su finalidad principal es facilitar el cumplimiento de la normativa, la metodología impulsa un enfoque de innovación responsable. Al exigir una reflexión sistemática sobre riesgos y medidas de protección, contribuye al desarrollo de sistemas de IA más robustos y confiables.
Plan de Control e Inspección
El Consejo comenzó aplicando elementos de esta herramienta en actuaciones inspectoras ligadas al Plan de Control e Inspección, utilizándola como referencia para futuros planes. La metodología contempla todos los componentes necesarios para generar las evaluaciones de impacto en protección de datos exigidas por la normativa, disminuyendo la carga de redacción manual y asegurando la coherencia documental.
La previsión es que esta herramienta metodológica se consolide como estándar de referencia para el desarrollo responsable de sistemas de inteligencia artificial en el sector público andaluz, de forma que las administraciones puedan aprovechar las capacidades de la IA respetando al máximo los derechos de la ciudadanía y las obligaciones en materia de protección de datos.