El Ayuntamiento de Valencia ha creado el Comité de Ética y Gobernanza de la Inteligencia Artificial (Cegia) con el objetivo de afrontar los retos y oportunidades que plantea la implantación y el uso de la inteligencia artificial en el ámbito de la administración pública. Este nuevo órgano municipal velará por un uso responsable, justo y conforme a derecho de los sistemas de IA en los distintos servicios municipales.
La iniciativa, impulsada por Paula Llobet, concejala de Innovación, Tecnología, Agenda Digital y Captación de Inversiones, responde a la creciente incorporación de soluciones basadas en inteligencia artificial en la gestión pública y a la necesidad de garantizar que su desarrollo se realice de forma armónica, integradora y alineada con los principios éticos y legales.
Un órgano técnico de seguimiento y control
El Cegia se configura como un órgano técnico colegiado de seguimiento, asesoramiento y control en materia de inteligencia artificial dentro del Ayuntamiento de Valencia. Su función principal será supervisar el diseño, la implantación y el uso de sistemas de IA en los servicios municipales, facilitando la coordinación entre los distintos órganos implicados y asegurando el cumplimiento de la normativa vigente.
Entre los principales desafíos que afrontan las administraciones públicas en este ámbito, la moción presentada por la concejala de Innovación destaca la necesidad de evitar sesgos algorítmicos que puedan generar discriminaciones, garantizar la trazabilidad de los algoritmos empleados, asegurar el cumplimiento normativo en materia de protección de datos y derechos digitales y establecer mecanismos efectivos de supervisión y control humano sobre las decisiones automatizadas.
La creación del Cegia tiene en cuenta las recomendaciones derivadas de las auditorías realizadas por la Sindicatura de Comptes, que han subrayado la importancia de establecer marcos normativos claros y órganos de control específicos para garantizar un despliegue adecuado de tecnologías emergentes como la inteligencia artificial. Ya en 2023, este organismo señalaba la necesidad de que las corporaciones locales definieran estrategias claras para la adopción de una IA ética y responsable.
El Comité de Ética y Gobernanza de la Inteligencia Artificial estará presidido por la persona titular de la Concejalía competente en materia de Tecnología y Agenda Digital y contará con la participación de responsables de distintos servicios y entes municipales, entre ellos Secretaría, Empleo, SerTIC, Innovación, Coordinación Tributaria, Sociedad de la Información y la fundación Las Naves, entre otros.