Sécurité des réseaux 5G/6G par l’IA : Prédiction de la durée des attaques pour une mitigation intelligente

Sakka, Mohamed Anis (2026). Sécurité des réseaux 5G/6G par l’IA : Prédiction de la durée des attaques pour une mitigation intelligente. Mémoire de maîtrise électronique, Montréal, École de technologie supérieure.

Prévisualisation

PDF Télécharger (1MB) | Prévisualisation

Résumé

La prolifération rapide des architectures réseau 5G et O-RAN a considérablement élargi le paysage des cybermenaces, créant des défis de sécurité critiques qui exigent des solutions innovantes dépassant les systèmes de détection d’intrusion conventionnels. Cette recherche introduit un cadre innovant pour la prédiction de la durée des cyberattaques qui transforme la cybersécurité d’une détection réactive en une gestion proactive des menaces, adressant ainsi le manque fondamental en intelligence temporelle des menaces qui limite actuellement les stratégies de mitigation efficaces dans les réseaux de nouvelle génération. Le cadre repose sur trois contributions principales : une architecture neuronale avancée basée sur les Transformers spécialement conçue pour capturer les motifs temporels complexes dans les séquences d’attaques, démontrant des améliorations significatives de performance par rapport aux modèles récurrents traditionnels ; un paradigme d’apprentissage fédéré préservant la confidentialité avec sélection adaptive des clients et optimisation dynamique de l’entraînement, permettant une allocation intelligente des ressources à travers les nœuds réseau distribués tout en maintenant la confidentialité des données et l’efficacité computationnelle ; et le nouveau cadre hybride FML-AD qui combine de manière synergique l’apprentissage fédéré avec des techniques de méta-apprentissage pour surmonter les barrières d’adaptation au domaine entre les environnements d’entraînement et le déploiement opérationnel réel. Le mécanisme de sélection adaptive des clients priorise stratégiquement les noeuds sous-performants basé sur des métriques de validation en temps réel, tandis que l’optimisation dynamique de l’entraînement ajuste l’allocation des époques et le traitement par lots selon les capacités des clients et les distributions de données. La validation expérimentale sur un testbed 5G O-RAN a confirmé la haute précision du cadre FML-AD, avec une erreur moyenne de seulement 2.0 secondes dans la prédiction de la durée résiduelle des attaques. Cette performance permet d’optimiser l’allocation des ressources de sécurité et de planifier les stratégies de mitigation en temps réel, tout en maintenant une qualité de service optimale pour les utilisateurs légitimes et en préservant la confidentialité des données across les infrastructures réseau hétérogènes. Ces résultats établissent les bases d’une nouvelle génération de systèmes de cybersécurité adaptatifs, capables d’anticiper proactivement les menaces et d’ajuster dynamiquement les mécanismes de défense. Les perspectives de recherche incluent la gestion d’attaques multiples, l’optimisation énergétique des modèles et le développement de moteurs d’inférence temps réel pour environnements industriels, renforçant ainsi la résilience des infrastructures critiques face aux cybermenaces évolutives dans l’écosystème 5G et au-delà.

Titre traduit

AI-driven security for 5G/6G networks : Predicting attack duration for intelligent mitigation

Résumé traduit

The rapid proliferation of 5G and O-RAN network architectures has dramatically expanded the cyber threat landscape, creating critical security challenges that demand innovative solutions beyond conventional intrusion detection systems. This research introduces an innovative framework for cyberattack duration prediction that transforms cybersecurity from reactive detection to proactive threat management, addressing the fundamental gap in temporal threat intelligence that currently limits effective mitigation strategies in next-generation networks. The framework is built upon three key contributions : an advanced Transformer-based neural architecture specifically engineered for capturing complex temporal patterns in attack sequences, demonstrating significant performance improvements over traditional recurrent models ; a privacy-preserving federated learning paradigm with adaptive client selection and dynamic training optimization that enables intelligent resource allocation across distributed network nodes while maintaining data confidentiality and computational efficiency ; and the novel FML-AD hybrid framework that synergistically combines federated learning with meta learning techniques to overcome domain adaptation barriers between training environments and real-world operational deployment. The adaptive client selection mechanism strategically prioritizes underperforming nodes based on real-time validation metrics, while the dynamic training optimization adjusts epoch allocation and batch processing according to client capabilities and data distributions. Extensive experimental validation conducted on multiple benchmark datasets and a sophisticated 5G O-RAN testbed demonstrates exceptional prediction accuracy for remaining attack duration, facilitating optimized resource allocation, intelligent mitigation planning, and guaranteed quality of service for legitimate users while maintaining robust privacy safeguards across heterogeneous network infrastructures. This research establishes the foundational principles for next-generation adaptive cybersecurity systems capable of proactive threat anticipation and dynamic defense optimization, with promising future research directions encompassing multi-attack scenario handling, energy aware model optimization, and real-time inference engines for large-scale industrial deployments, ultimately contributing to enhanced resilience of critical digital infrastructures against evolving cyber threats in the 5G era and beyond.

Type de document:	Mémoire ou thèse (Mémoire de maîtrise électronique)
Renseignements supplémentaires:	"Mémoire présenté à l'École de technologie supérieure comme exigence partielle à l'obtention de la maîtrise avec mémoire en génie des technologies de l'information". Comprend des références bibliographiques (pages 49-52).
Mots-clés libres:	prédiction de durée des cyberattaques, apprentissage fédéré, réseaux de transformers, sélection adaptive des clients, sécurité 5G, architecture O-RAN, méta-apprentissage, sécurité réseau, mitigation d’attaques, IA préservant la confidentialité
Directeur de mémoire/thèse:	Directeur(-trice) Langar, Rami
Codirecteur:	Codirecteur(-trice) de mémoire/thèse Jaafar, Waël
Programme:	Maîtrise en ingénierie > Génie des technologies de l'information
Date de dépôt:	29 mai 2026 15:23
Dernière modification:	29 mai 2026 15:23
URI:	https://espace.etsmtl.ca/id/eprint/3927

Gestion Actions (Identification requise)

Dernière vérification avant le dépôt