La Agencia Ejecutiva Europea de Salud y Digital (Hadea) ha firmado tres acuerdos de subvención para apoyar los nuevos proyectos RobustifAI, AIxpert y Truman con 21,4 millones de euros. Estos proyectos proponen soluciones de inteligencia artificial (IA) seguras, fiables, robustas y centradas en las personas para sectores como la ciberseguridad, la automoción, los robots de servicio, la atención sanitaria o la educación.
Los tres nuevos proyectos se centran en el desarrollo de algoritmos de IA para su uso seguro y fiable en condiciones reales, incorporando enfoques multidisciplinares a través de los principios de equidad, transparencia y explicabilidad. En este sentido, abordarán los principios éticos y límites operativos de esta tecnología, así como promoverán la innovación y el intercambio dentro de la comunidad de IA.
Hacia una IA segura, fiable y robusta en la UE
En el caso de RobustifAI, con un presupuesto de 7.362.490 euros financiados al 100% por la Unión Europea, se orienta a mejorar las capacidades de la IA generativa, que presenta limitaciones en cuanto a su robustez técnica, operativa y de usuario, lo que puede afectar al impacto social y económico.
El proyecto, que se desarrollará hasta el 31 de mayo de 2028 bajo la coordinación de la Universidad de Liverpool (Reino Unido), propone la combinación de métodos neuronales y simbólicos con un enfoque centrado en el usuario para desarrollar y aplicar sistemas de IA generativa más robustos. Entre sus innovaciones, destacan técnicas para que los modelos comprendan y reflejen las necesidades humanas y la capacidad de adaptación frente a entornos y usuarios variables. Estos avances se pondrán a prueba en tres sectores: automoción, robótica de servicios y ciberseguridad.
Por su parte, AIxpert impulsa una plataforma de IA orientada a la explicabilidad, responsabilidad y transparencia, basada en una arquitectura flexible que puede adaptar distintos tipos de modelos de IA. Mediante la integración de sistemas multiagente y modelos fundacionales, persigue aumentar la confianza y la facilidad de uso de los sistemas inteligentes, permitiendo al mismo tiempo la elección flexible de tecnologías subyacentes.
Las soluciones propuestas se implementarán en ámbitos como la salud o la educación, entre otros. Este proyecto está liderado por Athena Research & Innovation Information Technologies (Grecia), cuenta con un presupuesto de 7.499.753,75 euros financiado por la UE y también llegará a su fin el 31 de mayo de 2028.
Por último, Truman está coordinado por Eurecom (Francia) y dispone de una dotación presupuestaria de 6.510.565 euros procedente de la UE. Hasta el 30 de junio de 2028, trabajará en la generación de tecnologías y métodos que protejan a la IA frente a amenazas a la seguridad, privacidad y equidad, abarcando todas las etapas del ciclo de vida del sistema: desde la obtención de datos hasta la puesta en marcha de los algoritmos.
Asimismo, considera la implicación de las personas en la mejora y comprensión de los riesgos tecnológicos, estableciendo pautas para sistemas fiables y sólidos. Las herramientas y métodos del proyecto serán validados en áreas como seguridad informática, finanzas y sanidad.