Proyectos I+D
Project PID2022-139268OB-I00 SecAI
Soluciones seguras basadas en AI con soporte de Digital Twin y Edge Computing
Of National scope.
Las posibilidades de los servicios y soluciones de seguridad y privacidad basados en la IA, en términos de detección, prevención, respuesta y recuperación, y defensa activa, son inmensas. Sin embargo, incluso si el ecosistema del aprendizaje automático es completamente seguro ante amenazas tradicionales a la seguridad, todavía hay muchos problemas que dificultan la integración de los servicios de seguridad basados en la IA en escenarios realistas, como el "concept drift" (el ecosistema cambia con el tiempo, y los modelos del pasado podrían no funcionar en el futuro), y "adversarial setting" (los actores maliciosos pueden engañar al modelo de IA mediante la elaboración de muestras adversarias). Estos problemas pueden aliviarse teniendo una disponibilidad continua de información, que luego puede utilizarse como entrada para todo el ciclo de vida de la IA. Precisamente, en el contexto de la industria 5.0, una de las tecnologías que pueden cumplir tales condiciones son los Gemelos Digitales, ya que proporcionan dicha disponibilidad continua de información extraída de la infraestructura subyacente: el escenario del mundo real que necesitamos proteger. Además, las tecnologías Edge Computing facilitan el despliegue bajo demanda de servicios virtualizados más cercanos a los usuarios, y como resultado pueden ser capaces de albergar no sólo el propio Gemelo Digital y sus servicios derivados (p.ej. Sombras Digitales como herramientas de prototipado y aprendizaje), sino también cualquier servicio de seguridad basado en IA y otros servicios de apoyo bajo demanda. Así, nuestra hipótesis de partida consiste en que los Gemelos Digitales y el Edge Computing pueden convertirse en facilitadores y habilitadores para el despliegue de mecanismos y soluciones de seguridad y privacidad basados en IA. Más concretamente, nuestra contribución es una plataforma de seguridad para entornos de Industria 5.0 que, a través de la interacción con los Digital Twins y la Edge Computing, facilitará y permitirá la integración de servicios de seguridad y privacidad basados en la IA: la plataforma SecAI. Así, estos servicios mejorarán la verificabilidad y la mantenibilidad mediante el uso de flujos de datos sintéticos y mecanismos de detección del "concept drift", la robustez mediante la integración continua de muestras adversarias, la privacidad y la creación de conjuntos de datos mediante la integración de técnicas de preservación de la privacidad, y el uso de recursos mediante pruebas automáticas de modelos de IA optimizados. Otras soluciones no sólo ayudarán en la protección de la infraestructura antes y durante un ataque (evaluación de riesgos y honeypots), sino que también extraerán conocimientos que permitirán formar eficazmente al personal ("cyber ranges"). Todos estos componentes se integrarán y validarán en un banco de pruebas industrial en nuestro laboratorio. El papel de SecAI en la mejora de las capacidades de los servicios de seguridad basados en IA y en la disponibilidad de mejores herramientas de protección y formación no sólo reducirá el impacto de los ciberataques en nuestra industria, sino que también facilitará la integración de una mejor ciberseguridad basada en IA en todos los verticales. Para lograr este impacto, los resultados del proyecto se promoverán a través de diversos canales científicos, sociales y económicos. Además, se promoverá la generación de talento en este ámbito.
