Apprentissage par renforcement pour une cybersécurité résiliente

El Jizi, Khaled (2025). Apprentissage par renforcement pour une cybersécurité résiliente. Mémoire de maîtrise électronique, Montréal, École de technologie supérieure.

Prévisualisation

PDF Télécharger (6MB) | Prévisualisation

Résumé

À mesure que la dépendance mondiale aux dispositifs de l’IoT et aux technologies interconnectées s’intensifie, les menaces en cybersécurité évoluent à un rythme sans précédent. Les mécanismes de défense traditionnels basés sur des règles, ainsi que les modèles classiques d’apprentissage automatique, montrent une efficacité décroissante face à la nature dynamique et adaptative des cyberattaques modernes. Pour combler cette lacune, ce mémoire propose un cadre innovant fondé sur l’apprentissage par renforcement dans le but d’améliorer la résilience en cybersécurité. Plus précisément, nous développons des agents RL capables de simuler des comportements adverses en lançant des cyberattaques adaptatives et en évaluant la robustesse des réseaux cibles dans différents scénarios.

L’étude débute par une contextualisation de l’apprentissage par renforcement dans le paysage plus large de l’intelligence artificielle appliquée à la cybersécurité. Nous concevons ensuite un modèle RL intégré à un algorithme d’apprentissage méta-indépendant du modèle, permettant une adaptation rapide et une meilleure généralisation à travers des environnements réseaux hétérogènes. Contrairement aux travaux existants, souvent limités à des contextes spécifiques, notre modèle démontre une capacité de généralisation, rendant possible une évaluation plus efficace des défenses sur un large éventail d’infrastructures cybernétiques.

Nos résultats expérimentaux montrent que l’apprentissage par renforcement, renforcé par l’apprentissage méta, constitue une approche évolutive et adaptative pour les opérations de cybersécurité offensives. En permettant aux systèmes d’apprendre de leurs interactions avec l’environnement cybernétique, cette méthode offre une solution intelligente et résiliente pour l’architecture de cybersécurité moderne.

Titre traduit

Reinforcement learning for resilient cybersecurity

Résumé traduit

As global reliance on IoT devices and interconnected technologies intensifies, cybersecurity threats are evolving at an unprecedented pace. Traditional rule-based defense mechanisms and even conventional machine learning models have shown diminishing effectiveness against the dynamic and adaptive nature of modern cyber threats. To address this gap, this thesis introduces a novel RL based framework aimed at enhancing cybersecurity resiliency. Specifically, we propose the use of RL agents to simulate adversarial behavior by launching adaptive cyberattacks and evaluating the robustness of target networks under varying conditions.

The study begins by positioning reinforcement learning within the broader landscape of artificial intelligence in cybersecurity, rule-based approaches. We then design and implement a reinforcement learning model integrated with model-agnostic meta-learning to enable rapid adaptation and generalization across heterogeneous network environments. Unlike previous works that are limited to narrowly scoped settings, our RL model demonstrates generalization capability, enabling more effective penetration testing.

Our experimental results show that reinforcement learning, augmented with meta-learning, provides a scalable and adaptive methodology for offensive and cybersecurity operations. By empowering systems to learn from cyber interactions, this approach contributes a resilient, intelligent layer to modern cybersecurity architectures.

Type de document:	Mémoire ou thèse (Mémoire de maîtrise électronique)
Renseignements supplémentaires:	"Mémoire présenté à l'École de technologie supérieure comme exigence partielle à l'obtention de la maîtrise en génie des technologies de l'information avec mémoire". Comprend des références bibliographiques (pages 95-97).
Mots-clés libres:	apprentissage par renforcement (RL), cybersécurité, apprentissage automatique, détection d’intrusion, Internet of Things (IoT)
Directeur de mémoire/thèse:	Directeur(-trice) Talhi, Chamseddine
Codirecteur:	Codirecteur(-trice) de mémoire/thèse Ould-Slimane, Hakima
Programme:	Maîtrise en ingénierie > Génie des technologies de l'information
Date de dépôt:	24 févr. 2026 18:17
Dernière modification:	24 févr. 2026 18:17
URI:	https://espace.etsmtl.ca/id/eprint/3786

Gestion Actions (Identification requise)

Dernière vérification avant le dépôt