La ETSI ha publicado recientemente , un informe que resume y analiza las pautas para la mitigación de las amenazas contra los sistemas basados en IA. Tal y como indican desde la asociación, establecer una línea para una comprensión común de los riesgos de seguridad cibernética que entrañan las soluciones de Inteligencia Artificial será clave para la implementación y aceptación generalizadas de sistemas y aplicaciones de esta índole.

En concreto, el documento analiza los métodos disponibles para proteger los sistemas basados en IA mitigando las amenazas de seguridad conocidas o potenciales identificadas en la reciente publicación de ENISA y el informe ETSI GR SAI 004. También aborda las capacidades de seguridad, los desafíos y las limitaciones al adoptar sistemas basados en IA en determinados casos de uso.

La inteligencia artificial ha sido impulsada por el rápido progreso del Deep learning y sus aplicaciones, como la clasificación de imágenes, la detección de objetos, el reconocimiento de voz y la traducción de idiomas. Por lo tanto, este estudio se centra en el “aprendizaje profundo” y explora los ataques de contramedidas atenuantes existentes.

ETSI avanza en la protección de los sistemas basados en IA.
ETSI avanza en la protección de los sistemas basados en IA.

Asimismo describe el flujo de trabajo de los modelos de aprendizaje automático donde el ciclo de vida incluye etapas de desarrollo e implementación. Basándose en este workflow, el informe resume los enfoques de mitigación existentes y potenciales contra ataques de entrenamiento (es decir, mitigaciones para proteger el modelo de aprendizaje automático de ataques de poisoning o envenenamiento y backdoor attacks o de puerta trasera) y contra ataques de inferencia, incluidos los de evasión, robo de modelos y extracción de datos.

Debido a la rápida evolución de la tecnología de ataque para sistemas basados en IA, las soluciones existentes pueden volverse menos eficaces con el tiempo, aunque sus enfoques y sus fundamentos siguen vigentes. Además, la mayoría de las aproximaciones presentadas provienen de un contexto académico y hacen ciertas suposiciones, que deben ser consideradas cuando se aplican en la práctica.

ETSI GR SAI 005 tiene la intención de servir como una referencia técnica de IA de protección para la planificación, diseño, desarrollo, implementación, operación y mantenimiento de sistemas basados en IA. En el futuro, será necesario investigar mucho más en el ámbito de la verificación y validación automáticas, la explicabilidad y transparencia, y nuevas técnicas de seguridad para contrarrestar las amenazas emergentes a este avance.