El objetivo de la UE con la aprobación el pasado 13 de marzo del Reglamento de Inteligencia Artificial (Artificial Intelligence Act o AI Act) es definir lo que se considera un sistema de Inteligencia Artificial y garantizar que los sistemas de IA sean seguros y respeten los derechos de los ciudadanos, además de estimular la inversión y la innovación en el ámbito de la IA en Europa.
El objetivo de este proyecto es:
• Contar con una metodología para velar por el cumplimiento de los sistemas de IA respecto a la regulación aplicable
• Definir un marco de controles para la IA que permita evaluar las amenazas, cuantificar los riesgos, así como priorizar su mitigación
• Establecer un proceso de gestión de riesgos integral para procesos y sistemas que utilizan IA
• Determinar medidas de mitigación y control para mejorar los procesos y sistemas que utilizan IA y asegurar el cumplimiento con las regulaciones y estándares de referencia
La idea de la presente actuación es la elaboración de unas guías de diseño, desarrollo, despliegue y uso seguro de proyectos de IA en los ámbitos de referencia. Con carácter previo a la elaboración de cada guía se realizará un estudio de oportunidad para determinar si existen ya otras de acceso público que cubran de forma adecuada los mismos contenidos, casos de uso y necesidades. El contenido de las guías se basará en actuaciones lideradas por el centro de excelencia y recogerá los resultados arrojados por todas las iniciativas, por lo que se prevé un contenido dinámico que pueda ser revisado a lo largo de la duración del programa. Además, la particularidad y/o extensión del contenido puede recomendar definir fascículos específicos por etapa, destinatario o tipología de producto.
Cada guía tendrá una extensión típica de entre 30 y 60 páginas. A efectos de referencia, se demandará una calidad similar a la de las guías BP (Buenas Prácticas) o CCN-STIC elaboradas por el CCN-CERT.