Soutenance de thèse de CHOURIB Mehdi
Titre de thèse
Canaux cachés dans les réseaux : détection au niveau des flux et atténuation adaptative
Network Covert Channels: Flow-Based Detection and Adaptive Mitigation
Résumé de la thèse
Les canaux cachés dans les réseaux désignent un ensemble de techniques de dissimulation d'information qui détournent les usages légitimes des protocoles afin d'établir des communications non autorisées. Contrairement aux attaques classiques, ils ne violent pas nécessairement les spécifications d'un protocole et n'exploitent pas toujours une faille logicielle : ils tirent parti des marges de manœuvre que le fonctionnement normal des protocoles laisse ouvertes. L'information dissimulée est encodée dans des champs d'en-tête, dans l'ordre des paquets ou dans les caractéristiques temporelles des flux, tout en préservant la validité syntaxique du trafic. Cette subtilité rend la détection difficile : la frontière entre variabilité naturelle et manipulation intentionnelle est statistique et non structurelle.
Les contre-mesures habituelles reposent sur l'inspection par signatures, sur des seuils d'anomalie fixes ou sur la normalisation des champs protocolaires. Elles détectent certaines techniques connues, mais leurs limites sont bien identifiées. Les systèmes à signatures se généralisent mal aux variantes nouvelles. Les seuils fixes sont difficiles à calibrer et traduisent mal le niveau réel de risque. La normalisation systématique dégrade les performances du réseau et perturbe du trafic légitime. Enfin, beaucoup de systèmes de détection travaillent au niveau du paquet, ce qui les rend difficiles à déployer sur des liens à haut débit.
Cette thèse répond à ces limites en proposant une chaîne complète de détection et d'atténuation des canaux cachés, fondée sur la modélisation statistique, le raisonnement probabiliste et la théorie de la décision à coûts asymétriques.
La première partie des travaux étudie les approches d'apprentissage supervisé pour la détection et la classification structurelle des canaux cachés de stockage. Un jeu de données diversifié est construit à partir de plusieurs implémentations, organisé selon les patrons de dissimulation de Wendzel et al. L'évaluation comparative d'algorithmes de classification classiques montre qu'une précision de détection élevée est atteignable en conditions contrôlées. Cette étape révèle aussi trois contraintes : la dépendance aux données étiquetées, la sensibilité aux dérives de distribution et l'absence d'un mécanisme explicite de choix de la contre-mesure.
Pour améliorer le passage à l'échelle, la thèse introduit une détection au niveau des flux, fondée sur la télémétrie réseau agrégée. Des descripteurs statistiques sont extraits des enregistrements de flux et capturent les variations d'entropie, les irrégularités structurelles et les écarts temporels, tout en restant peu coûteux à calculer. Les indicateurs de suspicion obtenus quantifient les écarts par rapport à un trafic légitime de référence, sans inspection du contenu.
Sur ces indicateurs, les travaux construisent ensuite un mécanisme de calibration probabiliste qui transforme les scores d'anomalie en estimations de risque interprétables. La contribution centrale de la thèse formalise le gardien de réseau, ou warden, comme un système de décision adaptatif à coûts asymétriques. Pour chaque classe de trafic observée, le système choisit l'une de trois actions, de l'observation passive à la capture ciblée puis à la normalisation active, selon leur impact opérationnel attendu. Les régions de décision découlent d'un principe explicite de minimisation des pertes, et non de seuils réglés à la main.
Le dispositif intègre également des mécanismes d'adaptation dynamique et une analyse de robustesse en présence d'un adversaire informé. L'évaluation expérimentale montre que l'architecture proposée conserve un bon niveau de détection tout en réduisant nettement les interventions inutiles sur le trafic légitime, par rapport à des stratégies statiques de référence.
Thesis resume
Network covert channels are a family of information-hiding techniques that repurpose the legitimate behaviour of protocols to carry unauthorised communication. Unlike conventional attacks, they do not necessarily break a protocol specification, and they do not always rely on a software flaw: they exploit the room for manoeuvre that normal protocol operation leaves open. The hidden information is encoded in header fields, in packet ordering, or in the timing characteristics of a flow, while the traffic itself stays syntactically valid. That is what makes detection hard: the line between natural variability and deliberate manipulation is statistical, not structural.
The usual countermeasures rely on signature inspection, fixed anomaly thresholds, or normalisation of protocol fields. They catch some known techniques, but their limits are well documented. Signature-based systems generalise poorly to new variants. Fixed thresholds are difficult to calibrate and are a poor proxy for actual risk. Systematic normalisation degrades network performance and disrupts legitimate traffic. And many detection systems work at packet level, which makes them hard to deploy on high-speed links.
This thesis answers those limits with a complete detection and mitigation pipeline for covert channels, built on statistical modelling, probabilistic reasoning, and decision theory with asymmetric costs.
The first part of the work examines supervised learning for the detection and structural classification of storage covert channels. A diverse dataset is built from several implementations and organised according to the hiding patterns of Wendzel et al. A comparative evaluation of standard classification algorithms shows that high detection accuracy is achievable under controlled conditions. This stage also brings out three constraints: the dependence on labelled data, the sensitivity to distribution drift, and the absence of any explicit mechanism for choosing a countermeasure.
To improve scalability, the thesis introduces flow-level detection based on aggregated network telemetry. Statistical descriptors are extracted from flow records and capture entropy variations, structural irregularities, and timing deviations, while remaining cheap to compute. The resulting suspicion indicators quantify how far a flow departs from a legitimate reference, with no inspection of content.
On top of these indicators, the work builds a probabilistic calibration mechanism that turns anomaly scores into interpretable risk estimates. The central contribution formalises the network warden as an adaptive decision system with asymmetric costs. For each observed traffic class, the system selects one of three actions, from passive observation to targeted capture and then active normalisation, according to their expected operational impact. The decision regions follow from an explicit loss-minimisation principle rather than from hand-tuned thresholds.
The design also includes dynamic adaptation mechanisms and a robustness analysis in the presence of an informed adversary. Experimental evaluation shows that the proposed architecture keeps a good level of detection while markedly reducing unnecessary interventions on legitimate traffic, compared with static baseline strategies.
The thesis therefore frames covert channel detection as a problem of probabilistic control rather than a classification task, and derives from it an adaptive warden architecture in which every decision remains auditable by an operator.