El Consejo de Ministros ha aprobado este martes el proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial, una norma que adapta el marco jurídico español al Reglamento europeo de inteligencia artificial y establece las bases para garantizar un uso seguro, transparente y supervisado de esta tecnología en España.
Impulsada por el Ministerio para la Transformación Digital y de la Función Pública, la ley busca reforzar la protección de los derechos fundamentales, asegurar la intervención humana en los sistemas de mayor impacto y fomentar al mismo tiempo la innovación en un entorno regulado y confiable.
Supervisión, transparencia y protección de derechos
El proyecto establece la obligación de garantizar la supervisión humana en aquellos sistemas de inteligencia artificial que puedan afectar a derechos fundamentales, de forma que las decisiones relevantes no queden completamente automatizadas sin intervención o control de personas.
Asimismo, refuerza las exigencias de transparencia algorítmica, con el objetivo de que el funcionamiento de los sistemas de IA sea comprensible, trazable y auditable, especialmente en ámbitos sensibles como el empleo, la educación o el acceso a servicios públicos. La norma incluye además medidas específicas para la protección de los menores, con el fin de prevenir riesgos derivados del uso de estas tecnologías en entornos digitales.
Además, se tipifican responsabilidades claras para los operadores, desarrolladores y usuarios que utilicen o comercialicen sistemas prohibidos por la normativa europea, en línea con el Reglamento de Inteligencia Artificial aprobado por la Unión Europea, estableciendo obligaciones de cumplimiento y supervisión en función del nivel de riesgo de cada sistema.
La ley también define un régimen sancionador estructurado en infracciones leves, graves y muy graves, que permite una respuesta proporcional en función del impacto y la gravedad del incumplimiento. Las sanciones económicas pueden alcanzar hasta el 7% del volumen de negocio anual global de la empresa o hasta 35 millones de euros en los casos más graves, además de contemplar criterios de proporcionalidad, reincidencia y capacidad económica del infractor.
IA en la administración pública: inventario y nueva figura de control
Como novedad, la norma introduce la creación de un inventario de sistemas de inteligencia artificial utilizados en los procedimientos administrativos del sector público estatal, con el objetivo de reforzar la transparencia, el control institucional y la trazabilidad del uso de estas tecnologías en la gestión pública. Este registro permitirá identificar qué sistemas se emplean, en qué ámbitos se aplican y con qué finalidad.
Además, se establece la figura del delegado de inteligencia artificial, un nuevo responsable dentro de las administraciones públicas encargado de coordinar la aplicación de la normativa, velar por el cumplimiento de los requisitos legales y éticos, y asesorar en el diseño e implantación de proyectos basados en IA, con especial atención a la evaluación de riesgos y al uso responsable de la tecnología.
Gobernanza, supervisión y entornos de pruebas
La ley designa a las autoridades responsables de la supervisión del Reglamento de IA en España, entre ellas la Agencia de Supervisión de Inteligencia Artificial (AESIA), la Agencia Española de Protección de Datos (AEPD) y el Consejo General del Poder Judicial (CGPJ), en función del ámbito de aplicación.
También se prevé un modelo de colaboración institucional reforzado y la creación de un punto de contacto único a través de la AESIA para cuestiones de supervisión. El texto regula además los entornos controlados de pruebas o sandboxes, que permitirán a los proveedores de IA experimentar con nuevas soluciones bajo supervisión.
Estos entornos, ya impulsados por España, serán operados por la AESIA y podrán desarrollarse en distintos sectores mediante la participación de las autoridades competentes. Asimismo, se permite la creación de sandbox de IA adicionales siempre que sean creados por autoridades de vigilancia del mercado o notificante, y asociados a su sector de supervisión.
Alineación con la normativa europea de IA
La norma adapta el Reglamento europeo de inteligencia artificial, que establece una clasificación de los sistemas en función de su nivel de riesgo para las personas. Este marco regula de forma diferenciada los distintos usos de la IA, imponiendo obligaciones más estrictas a los sistemas de alto riesgo y prohibiendo aquellos considerados inaceptables por su impacto en la seguridad, los derechos fundamentales o la dignidad de las personas, como los que generan deepfakes sexuales o los que emplean técnicas de manipulación subliminal.
Asimismo, el reglamento fija requisitos de transparencia, supervisión y control para el resto de sistemas, con el objetivo de garantizar un uso seguro, fiable y ético de la inteligencia artificial en el mercado europeo.