Déploiement sécurisé de l’intelligence artificielle en périphérie de réseau - ITSP.80.101

La présente publication établit des priorités pratiques en matière de cybersécurité pour les organisations qui développent, déploient ou exploitent des systèmes d’intelligence artificielle (IA) en périphérie de réseau. Elle s’adresse aux praticiennes et praticiens, comme les gestionnaires, les administratrices, les administrateurs et les analystes des technologies de l’information (TI) et de la technologie opérationnelle (TO) à qui il incombe de sécuriser les déploiements de l’IA en périphérie de réseau. L’annexe A décrit les principales catégories d’IA en périphérie de réseau, et l’annexe B fournit des cas d’utilisation représentatifs dans divers secteurs.

La présente publication vise à compléter et à approfondir les conseils fondamentaux du Centre canadien pour la cybersécurité (Centre pour la cybersécurité) en matière de sécurité de l’IA que l’on retrouve dans le document Les 10 mesures de sécurité en matière d’intelligence artificielle : Introduction (ITSAP.10.049), qui porte sur la sécurité de l’IA dans des contextes organisationnels généraux. Elle s’articule autour des trois mêmes piliers de sécurité sur lesquels repose l’ITSAP.10.049 :

• Pilier 1 : Protection contre l’utilisation adverse de l’IA
• Pilier 2 : Protection des systèmes d’IA
• Pilier 3 : Protection des utilisatrices et utilisateurs ainsi que des processus opérationnels

On s’attend à ce que ces piliers demeurent des fondements essentiels malgré l’évolution des technologies et des menaces liées à l’IA. Plutôt que de renvoyer à des mesures précises de l’ITSAP.10.049, qui peuvent être modifiées périodiquement, la présente publication adopte une approche conceptuelle fondée sur ces piliers et oriente le lectorat vers les domaines thématiques pertinents, selon le contexte.

IA en périphérie de réseau

L’IA en périphérie de réseau effectue l’inférence et la prise de décisions directement sur le dispositif qui génère les données, ou à proximité de celui-ci, notamment :

• les téléphones intelligents dotés d’assistants intégrés;
• les passerelles et les contrôleurs industriels;
• les véhicules autonomes et les drones;
• les capteurs intelligents;
• les dispositifs de diagnostic médicaux.

Les modèles d’IA sont habituellement entraînés de façon centralisée, dans le nuage ou sur place, puis déployés en périphérie du réseau.

En pratique, l’IA en périphérie de réseau repose souvent sur une architecture hybride. Les dispositifs traitent les données localement, mais dépendent du nuage pour les mises à jour des modèles, l’orchestration, la télémétrie ou le soutien de repli. L’IA en périphérie de réseau se définit davantage par l’exécution locale de l’inférence et de la prise de décisions que par une indépendance par rapport au nuage. Les organisations adoptent l’IA en périphérie de réseau en raison de sa faible latence, de sa consommation réduite de bande passante et de la résidence renforcée des données. Elle demeure également résiliente en cas de perte de connectivité et offre une autonomie essentielle à la mission, ainsi que des coûts potentiellement inférieurs. Toutefois, l’IA en périphérie de réseau ne garantit pas la protection de la vie privée et le coût total de possession peut comprendre les coûts associés au matériel, à la consommation d’énergie et à la gestion du cycle de vie du parc de dispositifs.

L’IA en périphérie de réseau présente des défis particuliers en matière de sécurité, notamment :

• le traitement local peut accroître l’exposition des modèles et des données aux attaquants;
• le fonctionnement hors ligne peut retarder l’application des correctifs et les activités de surveillance;
• les données peuvent être moins bien protégées sur le plan de la vie privée;
• les systèmes autonomes peuvent prendre des mesures plus rapidement que les humains ne peuvent réagir.

La combinaison de ces facteurs peut entraîner un profil de risque sensiblement différent de celui de l’IA infonuagique, en particulier lorsque les dispositifs sont exploités dans des environnements non fiables ou intégrés à des systèmes physiques contrôlés.

Lignes directrices sur la cybersécurité de l’IA en périphérie de réseau

Les lignes directrices ci-dessous constituent un ensemble minimal de mesures pratiques pour les organisations qui déploient l’IA en périphérie de réseau. Les organisations pourraient devoir mettre en œuvre des mesures de contrôle techniques, procédurales et d’assurance supplémentaires, particulièrement dans le cas de systèmes sensibles ou essentiels à la mission. Il convient d’appliquer des mesures de contrôle complémentaires lorsque les conséquences d’une compromission, d’une défaillance ou d’une utilisation abusive sont graves.

Les présentes lignes directrices sont regroupées en piliers, conformément à l’ITSAP.10.049 :

• Pilier 1 : La protection contre l’utilisation adverse de l’IA porte sur les façons dont les auteurs de menace malveillants peuvent exploiter les systèmes d’IA, ainsi que sur les moyens dont disposent les organisations pour détecter ces activités et en assurer la surveillance afin d’y réagir;
• Pilier 2 : La protection des systèmes d’IA vise à sécuriser les modèles, les chaînes de traitement logiciel, les dispositifs, les identités et les chaînes d’approvisionnement;
• Pilier 3 : La protection des utilisatrices, des utilisateurs et des processus opérationnels porte sur la sécurité, la protection de la vie privée, la résilience et la supervision humaine.

Pilier 1 : Protection contre l’utilisation adverse de l’IA

Le présent pilier tient compte du fait que des adversaires peuvent utiliser l’IA pour mener des attaques plus rapides, plus adaptatives et plus fréquentes. Les dispositifs d’IA en périphérie de réseau sont particulièrement vulnérables, puisqu’ils sont souvent déployés dans des environnements publics ou non contrôlés, et qu’il peut être difficile d’y appliquer rapidement des correctifs ou d’en assurer une surveillance continue. Les organisations devraient mettre l’accent sur la détection rapide, la surveillance comportementale et la mise en place de mesures de protection adaptatives, tant au niveau des dispositifs individuels que de l’ensemble du parc de dispositifs.

Détection et protection comportementale des dispositifs en périphérie de réseau

Objectif : détecter et contrer les comportements anormaux ou malveillants visant les dispositifs en périphérie de réseau, y compris les attaques qui s’adaptent au fil du temps ou qui font appel à l’IA pour contourner les mesures de sécurité statiques.

Il est préférable de mettre en œuvre des mesures de sécurité capables de repérer les comportements suspects plutôt que de miser uniquement sur des signatures connues ou des règles statiques. Surveillez les processus exécutés sur les dispositifs, l’activité réseau, les séquences de commandes, les sorties des capteurs et les schémas d’utilisation afin de détecter tout écart par rapport au fonctionnement normal. Dans la mesure du possible, établissez des profils de référence au niveau du dispositif ou de l’ensemble du parc de dispositifs afin de repérer rapidement les comportements inhabituels, même lorsqu’aucun type d’attaque particulier n’est encore connu.

Privilégiez des mécanismes de protection capables de réagir de manière dynamique, comme l’isolement fondé sur des stratégies, le confinement automatisé, la limitation du débit ou l’activation d’un mode de fonctionnement sécurisé lorsque des seuils prédéfinis sont dépassés. Dans les environnements où la connectivité est intermittente, veillez à ce que les mécanismes de protection locaux demeurent opérationnels lorsque les services de sécurité infonuagiques ne sont pas disponibles. Examinez régulièrement les alertes et les mécanismes de détection afin d’ajuster les seuils, de réduire les faux positifs et de tenir compte de l’évolution des rôles des dispositifs ainsi que de leurs conditions d’exploitation.

Les petites et moyennes organisations devraient :

• activer les fonctions intégrées de détection et d’intervention sur les terminaux (EDR pour Endpoint Detection and Response) ou les antivirus (par exemple, Microsoft 365 Defender);
• utiliser des outils simples de détection des anomalies réseau ou le système de prévention d’intrusion intégré à un pare-feu afin de repérer les communications inhabituelles provenant des dispositifs;
• commencer par mettre en place des règles de détection de base (par exemple, l’établissement de nouvelles connexions sortantes ou des pointes inhabituelles dans l’utilisation de l’unité centrale de traitement [UCT]) et appliquer automatiquement des mesures de mise en quarantaine lorsque ces règles sont déclenchées.

Les praticiennes et praticiens de la sécurité des TI devraient :

• établir, dans leur système de gestion des informations et des événements de sécurité (GIES), des profils de référence adaptés à chaque catégorie de dispositifs;
• déployer des solutions EDR lorsque celles-ci sont prises en charge;
• utiliser des mécanismes de détection d’intrusion réseau pour les environnements de TO et les dispositifs de l’Internet des objets (IdO) afin de protéger l’équipement industriel;
• élaborer les règles de détection visant les changements apportés dans la distribution des résultats produits par les modèles, l’utilisation inhabituelle de protocoles et les variations soudaines du taux d’inférence.

Surveillance continue et détection des anomalies

Objectif : obtenir une visibilité sur le comportement des systèmes d’IA en périphérie de réseau et détecter rapidement les problèmes de sécurité.

Déployez des capacités de surveillance sur les dispositifs en périphérie de réseau afin de recueillir à la fois les données de télémétrie de sécurité traditionnelles et les signaux propres à l’IA. À tout le moins, il convient de recueillir les événements d’authentification, les données relatives à l’utilisation des ressources, les anomalies de connectivité et les erreurs. Vous devriez également recueillir les indicateurs associés aux modèles d’IA, comme le nombre d’inférences effectuées, les niveaux de confiance, la latence, les journaux de décisions ou les actions autonomes exécutées. Veillez à ce que ces données puissent être transmises de manière sécurisée, notamment au moyen de mécanismes de stockage et de retransmission qui permettent de composer avec une connectivité intermittente.

Définissez des seuils d’alerte afin que les événements graves, comme les échecs de vérification de l’intégrité ou les écarts comportementaux présentant un risque important, déclenchent une intervention immédiate. Les anomalies de moindre gravité peuvent ensuite être examinées sans entraîner une désensibilisation aux alertes chez les membres des équipes responsables. Surveillez les variations dans les performances, la dérive des modèles, les résultats inhabituels ou les changements dans les caractéristiques des données d’entrée, qui peuvent révéler une défaillance de capteur, une intervention malveillante ou une dégradation du modèle. Préparez des procédures d’intervention en cas d’incident propres à l’IA afin que les équipes responsables sachent comment isoler les systèmes touchés, mener les activités d’enquête nécessaires et rétablir les systèmes en toute sécurité.

Les petites et moyennes organisations devraient :

• utiliser une solution de GIES offerte en mode géré ou les fonctions de surveillance intégrées aux services infonuagiques (par exemple, Microsoft 365 Defender, Azure Sentinel ou Elastic Cloud);
• recueillir les journaux système, les journaux d’application et les mesures d’intégrité de base;
• configurer des alertes pour détecter les changements de version ou d’empreinte numérique (hachage), de même que les augmentations soudaines du nombre d’erreurs.

Les praticiennes et praticiens de la sécurité des TI devraient :

• définir un schéma de télémétrie qui comprend notamment l’état de sécurité des dispositifs, les empreintes numériques des micrologiciels et des modèles, les résultats des vérifications d’attestation, l’état de fonctionnement des capteurs et les statistiques d’inférence;
• assurer la signature et la mise en mémoire tampon des journaux, puis les transmettre à une plateforme de GIES;
• mettre en place des tableaux de bord et des règles de détection des anomalies qui permettent de repérer la dérive des modèles, les tentatives de trafiquage, ainsi que les pertes de connectivité.

Pilier 2 : Protection des systèmes d’IA

Le présent pilier porte sur la protection des composantes d’IA, des dispositifs, des logiciels et de l’infrastructure de soutien qui rendent possible le déploiement de l’IA en périphérie de réseau. Comme l’IA est souvent intégrée à des dispositifs distribués, les organisations doivent assurer une forte visibilité sur leurs actifs, mettre en place des contrôles rigoureux dans la chaîne d’approvisionnement, protéger l’intégrité des systèmes et assurer une gouvernance efficace des identités afin de réduire les risques de compromission.

Recenser et classifier vos actifs d’IA en périphérie de réseau

Objectif : savoir quels systèmes d’IA en périphérie de réseau sont en service au sein de l’organisation, où ils sont déployés et quelles seraient les conséquences d’une défaillance ou d’une compromission.

Procédez à un exercice complet de repérage afin de relever tous les systèmes en périphérie de réseau qui ont recours à une forme quelconque d’IA, y compris l’automatisation fondée sur des règles, l’apprentissage automatique, la vision par ordinateur, la fusion des données provenant de capteurs ou les fonctionnalités d’IA intégrées qui pourraient ne pas être immédiatement visibles. Pour chaque système en périphérie de réseau, il convient de documenter sa fonction, les conséquences potentielles d’une défaillance, son incidence éventuelle sur les processus physiques et l’existence de mécanismes de repli ou de moyens de contrôle manuels.

Classez les systèmes selon des catégories de risque clairement définies (essentiels à la sécurité, essentiels aux activités ou opérationnels) pour orienter les efforts de sécurité vers les systèmes qui présentent les risques les plus élevés. Consignez les détails de l’architecture et des dépendances, notamment si les systèmes fonctionnent exclusivement en mode local, selon un modèle hybride périphérie-infonuagique, au moyen de passerelles ou dans une architecture fédérée. Tenez cet inventaire à jour et intégrez-le aux processus de gestion des changements afin que tout ajout de capacités d’IA fasse l’objet d’un examen. Cette étape fondamentale constitue la base de toutes les autres mesures de sécurité décrites dans les présentes lignes directrices.

Sécurisation de la chaîne d’approvisionnement de l’IA et maintien d’une nomenclature dynamique des composantes

Objectif : connaître l’origine et l’intégrité de chaque composante de l’environnement d’IA en périphérie de réseau et être en mesure de la remplacer ou de la mettre à jour rapidement au besoin.

Élargissez votre inventaire de manière à inclure les éléments suivants :

• le matériel;
• les micrologiciels;
• les systèmes d’exploitation;
• les modèles d’IA;
• les bibliothèques;
• les dépendances;
• les plugiciels;
• les jeux de données;
• les fichiers de configuration.

Produisez et tenez à jour des nomenclatures logicielles (SBOM pour Software Bill of Materials) et, dans la mesure du possible, des nomenclatures de modèles (MBOM pour Model Bill of Materials) qui documentent la provenance, les versions et les dépendances des composantes d’IA. Mettez à jour les SBOM et les MBOM chaque fois qu’un changement est apporté aux systèmes afin qu’elles reflètent fidèlement leur état actuel.

Évaluez les logiciels, les cadres de développement et les modèles préentraînés qui proviennent de tiers avant leur déploiement. Cette évaluation devrait comprendre des vérifications de vulnérabilités, un examen des fournisseurs et une validation de l’intégrité des composantes au moyen de codes de hachage ou de signatures numériques. Assurez la surveillance continue des vulnérabilités touchant les composantes utilisées et soyez en mesure d’appliquer rapidement des correctifs, ainsi que de remplacer, de désactiver ou de mettre en quarantaine les éléments touchés. Mettez en œuvre des mécanismes qui permettent de garantir que seuls les logiciels et les modèles approuvés et signés peuvent être exécutés sur les dispositifs en périphérie de réseau.

Gouvernance des identités non humaines

Objectif : gérer les identités et les justificatifs d’identité utilisés par les systèmes d’IA avec le même niveau de rigueur que celui appliqué aux utilisatrices et utilisateurs.

Effectuez une vérification de tous les agents d’IA, des comptes de service, des robots logiciels, des scripts et des processus automatisés afin de déterminer leurs méthodes d’authentification et les ressources auxquelles ils ont accès. Éliminez les pratiques à risque, notamment l’utilisation de comptes d’utilisateur partagés, de justificatifs d’identité statiques intégrés au code ou aux micrologiciels, ainsi que de comptes machine orphelins qui demeurent actifs après la mise hors service des systèmes auxquels ils étaient associés.

Attribuez à chaque système d’IA une identité unique, délivrez des justificatifs d’identité valides pour une durée limitée lorsque cela s’avère possible et automatisez leur renouvellement et leur révocation. Appliquez le principe de droit d’accès minimal afin que les agents d’IA n’aient accès qu’aux systèmes, aux données et aux commandes dont ils ont réellement besoin pour exercer leurs fonctions. Dans les environnements exigeant un niveau d’assurance élevé, liez la délivrance des identités à une attestation du dispositif ou de la charge de travail, de manière à ce que les justificatifs d’identité ne soient accordés que lorsque le système se trouve dans un état jugé fiable.

Mise hors service sécurisée des modèles et application de l’effacement cryptographique

Objectif : veiller à ce que les dispositifs et les modèles d’IA en périphérie de réseau retirés du service ne puissent pas être exploités pour extraire des données, des justificatifs d’identité ou de la propriété intellectuelle.

Mettez en place un processus officiel de mise hors service des dispositifs d’IA en périphérie de réseau qui comprend l’effacement sécurisé des données, la vérification des opérations effectuées, la documentation des activités et la révocation des justificatifs d’identité. Lorsque la technologie le permet, ayez recours à l’effacement cryptographique fondé sur le matériel en détruisant ou en invalidant les clés de chiffrement afin de rendre les données et les modèles stockés illisibles. Dans les cas où les exigences de protection sont particulièrement élevées, détruisez physiquement les supports de stockage.

Précisez, dans les processus d’approvisionnement, que les dispositifs doivent offrir des fonctions sécurisées de stockage et d’élimination des données afin de permettre un chiffrement et une destruction fiable des clés cryptographiques au cours de leur cycle de vie. Prévoyez également des mesures pour les dispositifs perdus ou volés, notamment l’effacement à distance dans les plus brefs délais et la révocation immédiate des accès. Cette approche permet d’assurer la protection des actifs tout au long de leur cycle de vie.

Renforcement de la sécurité des modèles, des agents et de la logique de contrôle de l’IA contre le vol et le trafiquage

Objectif : protéger les modèles d’IA et les composantes de contrôle connexes qui sont déployés sur les dispositifs en périphérie de réseau contre le vol, le trafiquage et la manipulation.

Lorsque la technologie le permet, mettez en œuvre des mécanismes de protection pris en charge par le matériel, comme le démarrage sécurisé, le chiffrement complet du disque et les environnements d’exécution fiables. Traitez les modèles, les stratégies, les fichiers de configuration et la logique des agents comme des logiciels essentiels en les dotant de signatures numériques et en vérifiant ces signatures avant leur chargement ou leur exécution. Dans la mesure du possible, liez le chiffrement des modèles ou des fichiers de configuration à des dispositifs précis afin d’empêcher la réutilisation de fichiers copiés sur d’autres systèmes.

Vérifiez continuellement l’intégrité des composantes et surveillez les changements inhabituels de performances qui pourraient révéler un trafiquage, une modification non autorisée ou une manipulation malveillante. Protégez les règles, les instructions, les fichiers de configuration et les modèles contre toute modification non autorisée au moyen de mécanismes, tels que la journalisation, la protection en écriture, les sommes de contrôle ou les signatures numériques. Mettez régulièrement à l’essai des scénarios, comme l’usurpation des données provenant de capteurs, les modifications malveillantes de fichiers de configuration ou l’utilisation de données d’entrée trompeuses afin de confirmer que les mécanismes de protection, les dispositifs de sécurité intégrés et les alertes fonctionnent comme prévu.

Pilier 3 : Protection des utilisatrices et utilisateurs ainsi que des processus opérationnels

Le présent pilier porte sur la protection de la vie privée, la sécurité, la fiabilité et la gouvernance. Il tient compte du fait que les systèmes d’IA peuvent connaître des défaillances en raison de la dérive des modèles, d’erreurs, d’une utilisation inadéquate ou d’une automatisation excessive, même en l’absence d’une attaque malveillante. Il met l’accent sur la résilience des processus et le maintien d’une supervision humaine appropriée.

Mise en œuvre de mesures de protection de la vie privée et de mécanismes de traitement local des données

Objectif : réduire l’exposition inutile des données sensibles et conserver la maîtrise du traitement des renseignements personnels ou sensibles.

Cartographiez les flux de données de chaque système d’IA en périphérie de réseau, notamment : 

• les données recueillies;
• les emplacements où sont stockées les données;
• la présence éventuelle de renseignements personnels ou sensibles;
• la transmission éventuelle de renseignements personnels ou sensibles vers des serveurs externes ou des plateformes de fournisseurs.

Comme de nombreux dispositifs sont livrés avec des services infonuagiques activés par défaut, il est impératif de déterminer et d’évaluer les transferts de données non apparents.

Privilégiez le traitement local ou sur place des données sensibles en utilisant, dans la mesure du possible, des modèles compacts ou de petits modèles de langage. Lorsque le traitement externe est nécessaire, acheminez les données uniquement vers des environnements approuvés qui respectent les exigences en matière de protection de la vie privée, de sécurité et de compétence territoriale. Surveillez le trafic sortant afin de détecter les destinations inattendues, chiffrez les données en transit et réduisez au minimum l’exposition des données au moyen de techniques comme l’anonymisation, l’agrégation ou la minimisation des données, lorsque cela est possible.

Sécurisation de l’interface entre les technologies de l’information et la technologie opérationnelle et mise en place de mécanismes de sécurité intégrés

Objectif : veiller à ce que la sécurité et la fiabilité ne reposent pas uniquement sur l’IA lorsque cette dernière est intégrée aux environnements de TO.

Recensez tous les points d’interaction entre les systèmes d’IA en périphérie de réseau et l’équipement physique ou les processus de contrôle industriel. Pour chaque point d’interaction, déterminez les conséquences les plus graves pouvant découler d’une défaillance ou d’un comportement inattendu de l’IA et vérifiez qu’un mécanisme de repli sûr est en place et qu’il ne dépend pas de l’IA elle-même. En présence de lacunes, ajoutez des mécanismes de sécurité indépendants fondés sur le matériel ou sur des fonctions de contrôle de bas niveau, comme des arrêts d’urgence, des clapets à rappel par ressort ou d’autres dispositifs qui placent automatiquement le système dans un état sécurisé par défaut.

Mettez à l’essai le comportement de l’IA dans des environnements simulés ou contrôlés avant son déploiement en mode production, y compris dans des conditions anormales ou en présence de scénarios d’attaque. Mettez en place un cloisonnement entre les réseaux d’IA et de TO, limitez rigoureusement les communications entre eux et surveillez les commandes non autorisées ou inhabituelles. Faites preuve de retenue dans l’utilisation de l’IA au sein des environnements de TO et employez-la uniquement lorsqu’elle apporte une valeur ajoutée claire qui justifie la complexité et les risques supplémentaires qu’elle entraîne.

Maintien d’une supervision humaine et de mécanismes de sécurité intégrés indépendants

Objectif : veiller à ce que des personnes autorisées puissent intervenir, neutraliser les systèmes d’IA autonomes en périphérie de réseau ou les arrêter lorsque la situation l’exige.

Pour chaque système d’IA en périphérie de réseau autonome ou ayant une incidence sur la sécurité, mettez en place des dispositifs d’arrêt d’urgence, des mécanismes de prise de contrôle ou des moyens indépendants de mise hors service facilement accessibles. Ces mécanismes ne devraient pas dépendre de la coopération du système d’IA et devraient être mis à l’essai régulièrement. Définissez les situations dans lesquelles une approbation humaine est requise avant qu’une mesure initiée par l’IA puisse être exécutée, en particulier lorsqu’il s’agit de décisions à conséquences importantes.

Formez le personnel responsable de l’exploitation afin qu’il comprenne les capacités et les limites des systèmes d’IA, notamment la façon de reconnaître des résultats peu fiables, d’interpréter les alertes et d’exercer un contrôle manuel lorsque nécessaire. Déterminez de façon délibérée le degré d’autonomie approprié pour chaque système en fonction de son profil de risque et attribuez-lui un niveau d’indépendance correspondant. Conservez des journaux inviolables qui consignent les actions exécutées par l’IA et les interventions humaines afin de permettre l’examen des incidents et des quasi-incidents et d’améliorer tant les technologies que les processus.

Exercice « un dispositif » – Application des présentes lignes directrices

Après avoir pris connaissance des présentes lignes directrices, appliquez-les à un des dispositifs d’IA en périphérie de réseau utilisés dans votre environnement. Choisissez un système représentatif ou ayant une incidence importante, puis répondez aux quatre questions suivantes :

1. Quelles décisions le dispositif prend-il de façon indépendante?
2. Quelles données d’entrée influent sur ces décisions?
3. Qu’adviendrait-il si le dispositif subissait une défaillance ou faisait l’objet d’une compromission?
4. Quels mécanismes de repli sont en place si le système d’IA cesse de fonctionner ou ne peut plus être considéré comme fiable?

Documentez les résultats de cet exercice et utilisez-les pour établir l’ordre de priorité des mesures à prendre. Si vous constatez que certaines données d’entrée sont insuffisamment protégées ou non validées, renforcez les mécanismes de détection, les contrôles d’intégrité et les capacités de surveillance. Si les conséquences d’une défaillance sont graves et que les mécanismes de repli sont limités, accordez la priorité à la mise en place de mécanismes de sécurité, au cloisonnement des systèmes et aux moyens de prise de contrôle par une personne autorisée. Dans le cas des systèmes sensibles, essentiels à la sécurité ou essentiels à la mission, utilisez cet exercice pour déterminer quelles mesures de contrôle supplémentaires devraient être mises en œuvre, au-delà de celles mentionnées dans la présente publication, afin de réduire les risques résiduels.

Résumé

L’IA en périphérie de réseau offre d’importants avantages opérationnels, mais elle confère également à l’organisation qui la déploie une responsabilité accrue en matière de sécurité et de résilience. En appliquant les présentes lignes directrices de cybersécurité pour l’IA en périphérie de réseau, les organisations peuvent mieux se protéger contre les menaces tirant parti de l’IA, sécuriser leurs systèmes d’IA et leurs chaînes d’approvisionnement, ainsi que préserver la protection des renseignements personnels, la supervision humaine et la continuité des activités.

Dans le cadre du pilier 1, les organisations devraient renforcer leur visibilité sur les systèmes d’IA et améliorer leurs capacités de détection dynamique et leur aptitude à réagir aux anomalies afin de faire face à des attaques de plus en plus adaptatives. Dans le cadre du pilier 2, elles devraient gérer les dispositifs, les modèles, les composantes, les identités et la logique de contrôle liés à l’IA comme des actifs essentiels. Dans le cadre du pilier 3, elles devraient veiller à ce que l’adoption de l’IA ne compromette aucunement la protection de la vie privée, la sécurité, la confiance et le maintien d’une supervision humaine adéquate. Mises en œuvre de façon concertée, les présentes lignes directrices peuvent aider les organisations à adopter une approche fondée sur des principes suffisamment souple pour protéger l’IA en périphérie de réseau à mesure que les technologies et les menaces évoluent.

Pour en savoir plus

• Les 10 mesures de sécurité en matière d’intelligence artificielle : Introduction (ITSAP.10.049)
• Facteurs relatifs à la sécurité à considérer pour les dispositifs d’accès (ITSM.80.101)
• Considérations de sécurité liées aux pare-feu (ITSAP.80.039)
• Pratiques exemplaires en matière de cybersécurité pour les routeurs (ITSAP.80.019)
• Journalisation et surveillance de la sécurité de réseau (ITSAP.80.085)
• Application des mises à jour sur les dispositifs (ITSAP.10.096)
• Cybersecurity and Infrastructure Agency (CISA) – Principles for the Secure Integration of Artificial Intelligence in Operational Technology (en anglais seulement)
• Open Worldwide Application Security Project (OWASP) – Top 10 for Agentic Applications 2026 (en anglais seulement)
• National Cyber Security Centre (NCSC) du Royaume-Uni – Guidelines for secure AI system development (PDF) (en anglais seulement)
• Cloud Security Alliance (CSA) – Securing Autonomous AI Agents (en anglais seulement)
• Royaume-Uni – AI Cyber Security Code of Practice (en anglais seulement)
• National Institute of Standards and Technology (NIST) des États-Unis – AI Risk Management Framework (AI RMF) (en anglais seulement)
• Organisation internationale de normalisation / Commission électrotechnique internationale (ISO/CEI) Norme 42001 : Technologies de l’information – Intelligence artificielle – Système de management

Annexe A : Catégories de technologies d’IA couramment déployées en périphérie de réseau

L’éventail des technologies d’IA couramment déployées en périphérie de réseau peut être très vaste.

Pour sécuriser efficacement l’IA en périphérie de réseau, il est important de reconnaître les différents types – ou catégories – de techniques d’IA et d’apprentissage automatique susceptibles d’être exécutés sur vos dispositifs, puisque chacun présente des vulnérabilités qui lui sont propres. Vous trouverez ci-dessous un aperçu de huit grandes catégories d’IA que l’on retrouve dans les déploiements en périphérie de réseau. Ces catégories ne s’excluent pas mutuellement; un dispositif en périphérie de réseau peut recourir simultanément à plusieurs types d’IA.

• Catégorie A – Systèmes fondés sur les règles
  • Description : ces systèmes reposent sur une logique ou des règles définies par des personnes selon le principe « si/alors » (par exemple, des systèmes experts simples ou des dispositifs de verrouillage de sécurité)
  • Vulnérabilité : des attaquants peuvent altérer les règles ou les seuils eux-mêmes. Même en l’absence d’apprentissage automatique, la modification malveillante de règles peut entraîner des conséquences néfastes si les seuils sont modifiés. Par exemple, le seuil de déclenchement d’une alarme de sécurité pourrait être modifié de 150 livres par pouce carré (lb/po²) à 500 lb/po², ce qui pourrait empêcher la détection d’une condition dangereuse au moment opportun
• Catégorie B – Recherche, planification et optimisation
  • Description : cette catégorie comprend les algorithmes qui explorent systématiquement différentes solutions ou trajectoires possibles pour déterminer la meilleure option (par exemple, la planification d’itinéraires ou l’ordonnancement des activités)
  • Vulnérabilité : la manipulation des données d’entrée peut fausser le processus de planification. Par exemple, la transmission de données cartographiques erronées à un système d’IA chargé de la recherche d’itinéraires pourrait amener un robot ou un véhicule à emprunter un parcours dangereux
• Catégorie C – Raisonnement probabiliste
  • Description : cette catégorie regroupe les systèmes d’IA qui combinent des données provenant de plusieurs sources comportant un certain degré d’incertitude (par exemple, des filtres bayésiens ou des filtres de Kalman)
  • Vulnérabilité : l’introduction de biais subtils dans les données d’entrée peut progressivement fausser les estimations produites par le système sans nécessairement déclencher d’alerte évidente
• Catégorie D – Apprentissage automatique traditionnel
  • Description : cette catégorie regroupe les modèles traditionnels d’apprentissage automatique (par exemple, les arbres de décision, les forêts aléatoires ou les machines à vecteurs de support)
  • Vulnérabilité : les fichiers de modèles et les chaînes de traitement des données doivent être considérés comme des actifs logiciels essentiels; un attaquant pourrait voler ou modifier un modèle d’apprentissage automatique déployé sur un dispositif, ou altérer la façon dont ce modèle traite les données
• Catégorie E – Architectures pipelines de la vision par ordinateur
  • Description : cette catégorie comprend les systèmes qui analysent et interprètent des images ou des séquences vidéo
  • Vulnérabilité : des attaques par exemples contradictoires dans le monde réel, comme le placement de motifs dans le champ de vision d’une caméra, peuvent induire le système en erreur sans qu’il soit nécessaire de compromettre numériquement le dispositif
• Catégorie F – Apprentissage profond (non génératif)
  • Description : cette catégorie regroupe les réseaux neuronaux profonds utilisés pour la prédiction, la classification ou la détection (par exemple, la reconnaissance vocale ou les systèmes avancés d’aide à la conduite)
  • Vulnérabilité : ces systèmes sont vulnérables aux attaques par exemples contradictoires et à l’exploitation de vulnérabilités logicielles ou matérielles présentes dans les cadres de développement de l’apprentissage automatique
• Catégorie G – IA générative et petits modèles de langage
  • Description : cette catégorie comprend les systèmes d’IA qui génèrent du nouveau contenu ou interprètent des commandes complexes. Grâce aux petits modèles de langage, ce type de capacité peut désormais être déployé sur des dispositifs en périphérie de réseau
  • Vulnérabilité : cette catégorie introduit des menaces particulières, notamment l’infiltration de requête et la manipulation des résultats produits par le modèle. Des données d’entrée malveillantes peuvent également contourner ou modifier les instructions prévues et amener le système à produire des résultats susceptibles d’entraîner des actions néfastes dans les systèmes qui en dépendent
• Catégorie H – Apprentissage par renforcement et systèmes autonomes (systèmes agentiques)
  • Description : cette catégorie regroupe les agents d’IA qui perçoivent leur environnement, prennent des décisions et exécutent des actions dans une boucle continue (par exemple, les robots, les drones ou les véhicules autonomes)
  • Vulnérabilité : ces systèmes présentent l’éventail de risques le plus vaste puisqu’ils combinent les risques liés à l’altération physique, à la manipulation des données d’entrée, à la compromission des modèles et à d’autres formes d’attaque, avec des conséquences directes et immédiates dans le monde réel

Annexe B : Cas d’utilisation de l’IA en périphérie de réseau (catégories d’utilisatrices, d’utilisateurs et d’exploitants)

Les catégories suivantes représentent différents types d’organisations ou de contextes dans lesquels l’IA en périphérie de réseau est déployée, accompagnés de cas d’utilisation.

• Catégorie 1 – Exploitants d’infrastructures essentielles
  • Description : organisations responsables de l’exploitation de services essentiels et de réseaux à grande échelle
  • Exemples : réseaux électriques, réseaux de télécommunications, pipelines énergétiques, centrales nucléaires, systèmes de transport et réseaux bancaires et de traitement des opérations financières
  • Exemples d’application : un exploitant de réseau électrique (catégorie 1) qui utilise l’IA pour prévoir les défaillances d’équipement et optimiser la répartition des charges (catégorie C – Raisonnement probabiliste) accordera une attention particulière à la surveillance continue des anomalies, à la protection de l’intégrité de la chaîne d’approvisionnement des capteurs utilisés par les systèmes d’IA et à la mise en place de mécanismes de sécurité robustes pour prévenir les défaillances en cascade et les interruptions de service à grande échelle
• Catégorie 2 – Soins de santé et dispositifs médicaux
  • Description : organisations du secteur de la santé qui déploient des systèmes d’IA au point de prestation des soins
  • Exemples : hôpitaux qui utilisent des dispositifs diagnostiques fondés sur l’IA, fabricants de dispositifs médicaux offrant des implants intelligents dotés de capacités de surveillance et organismes de santé qui utilisent l’IA pour analyser les données des patientes et patients à leur chevet
  • Exemples d’application : un organisme du secteur de la santé (catégorie 2) qui utilise l’IA pour faciliter l’interprétation d’images radiographiques (catégorie E – Architectures pipelines de la vision par ordinateur) accordera une attention particulière à la souveraineté des données, à la surveillance continue des modèles visant à assurer la sécurité des patientes et patients, ainsi qu’à la mise en place de mesures destinées à contrer la manipulation des données d’entrée pour réduire le risque de diagnostics erronés découlant d’images médicales altérées
• Catégorie 3 – Secteur industriel et fabrication (Internet industriel des objets)
  • Description : organisations industrielles qui utilisent l’IA dans des environnements de TO
  • Exemples : usines qui utilisent des capteurs alimentés par l’IA pour la maintenance prévisionnelle, chaînes d’assemblage robotisées, systèmes d’inspection de la qualité fondés sur l’IA et systèmes de contrôle industriels intégrant des capacités d’apprentissage automatique
  • Exemples d’application : un fabricant (catégorie 3) qui déploie une chaîne d’assemblage robotisée pilotée par des agents d’IA reposant sur l’apprentissage par renforcement (catégorie H – Apprentissage par renforcement et systèmes autonomes) accordera une attention particulière à la mise en place de mécanismes de sécurité physiques indépendants, à la mise en œuvre de moyens de prise de contrôle par une personne autorisée, ainsi qu’au renforcement de la protection des modèles hébergés sur les dispositifs pour prévenir leur altération ou leur compromission
• Catégorie 4 – Villes intelligentes et services municipaux
  • Description : organisations du secteur public et exploitants d’infrastructures urbaines qui utilisent l’IA pour soutenir la prestation de services municipaux
  • Exemples : systèmes municipaux de gestion de la circulation utilisant l’IA pour ajuster la synchronisation des feux de circulation, capteurs de surveillance environnementale dotés de capacités d’analyse locales, caméras de surveillance de la sécurité publique utilisant l’IA et composantes de réseaux électriques intelligents exploités par des services publics municipaux
  • Exemples d’application : une administration municipale (catégorie 4) qui utilise l’IA pour optimiser la séquence des feux de circulation (catégorie B – Recherche, planification et optimisation) accordera une attention particulière à la vérification de l’intégrité des flux de données d’entrée utilisés pour alimenter les décisions automatisées, à la transparence de la logique décisionnelle automatisée et à la mise en place de mécanismes permettant une prise de contrôle par une personne autorisée lorsque la situation l’exige
• Catégorie 5 – Consommatrices, consommateurs et petites entreprises
  • Description : particuliers et petites entreprises qui utilisent des systèmes d’IA en périphérie de réseau destinés au marché de consommation ou déployés à petite échelle
  • Exemples : dispositifs de domotique (par exemple, caméras de sécurité, assistants vocaux ou dispositifs électroménagers intelligents), dispositifs portables de suivi de la santé, systèmes de sécurité destinés aux petites entreprises et téléphones intelligents dotés de fonctions d’IA exécutées localement sur le dispositif
  • Exemples d’application : une petite entreprise (catégorie 5) qui utilise un système de caméras de sécurité intelligentes avec capacités d’IA (catégorie E – Architectures pipelines de la vision par ordinateur) accordera une attention particulière à la gestion des fournisseurs des composantes d’IA intégrées au système, à la souveraineté des données pour limiter les transmissions inutiles vers des services infonuagiques, ainsi qu’à la mise en œuvre de mesures de protection de la vie privée pour les personnes captées par les caméras
• Catégorie 6 – Secteur automobile et des transports
  • Description : utilisation de l’IA en périphérie de réseau dans les véhicules et les systèmes de transport
  • Exemples : véhicules autonomes et semi-autonomes, systèmes avancés d’aide à la conduite, dispositifs de gestion de parc automobile reposant sur l’IA, drones de livraison ou véhicules aériens sans pilote et systèmes de communication « véhicule-à-tout »
  • Exemples d’application : un constructeur automobile (catégorie 6) qui déploie des modèles d’apprentissage profond pour des systèmes avancés d’aide à la conduite (catégorie F – Apprentissage profond (non génératif)) accordera une attention particulière à la résistance des modèles de perception face aux données d’entrée malveillantes ou trompeuses, à la protection cryptographique des mises à jour de modèles transmises à distance et à la mise en place de mécanismes de sécurité qui transfèrent, par défaut, la maîtrise du véhicule à la conductrice ou au conducteur lorsque le système ne peut plus fonctionner de façon fiable ou sécuritaire
• Catégorie 7 – Commerce de détail et sécurité physique
  • Description : organisations du secteur du commerce de détail et fournisseurs de services de sécurité qui utilisent l’IA en périphérie de réseau
  • Exemples : systèmes de télévision en circuit fermé et d’analyse vidéo alimentés par l’IA, systèmes de contrôle d’accès reposant sur la reconnaissance faciale, bornes de point de vente intelligentes et robots autonomes de gestion des stocks
  • Exemples d’application : un détaillant (catégorie 7) qui utilise un système de contrôle d’accès fondé sur la reconnaissance faciale (catégorie E – Architectures pipelines de la vision par ordinateur) accordera une attention particulière au respect des exigences relatives à la protection de la vie privée, à la mise hors service sécurisée des modèles pour protéger les données biométriques et à la surveillance continue des modèles pour détecter la dérive des modèles ou les tentatives d’usurpation visant à tromper le système
• Catégorie 8 – Technologies agricoles
  • Description : entreprises agricoles et exploitations agricoles qui déploient des systèmes d’IA sur leur équipement
  • Exemples : tracteurs et machinerie agricole autonomes, drones utilisés pour la surveillance des cultures et l’épandage de pesticides, capteurs en périphérie de réseau servant à la surveillance des sols et au suivi du bétail
  • Exemples d’application : un exploitant agricole (catégorie 8) qui utilise des drones autonomes guidés par l’IA pour la surveillance des cultures (catégorie H – Apprentissage par renforcement et systèmes autonomes) accordera une attention particulière à la vérification de l’intégrité des composantes de la chaîne d’approvisionnement, notamment celle des micrologiciels de drones, au renforcement de la protection des dispositifs contre l’altération physique dans des environnements éloignés ou difficiles à surveiller et à l’établissement de procédures claires permettant une prise de contrôle par une personne autorisée lorsque la situation l’exige
• Catégorie 9 – Défense et sécurité nationale
  • Description : organisations gouvernementales responsables de la défense, des activités militaires ou de la sécurité nationale qui utilisent l’IA en périphérie de réseau dans des environnements opérationnels
  • Exemples : drones tactiques et robots de surveillance, équipement de communication destiné aux troupes et doté de capacités d’IA, systèmes autonomes de reconnaissance et dispositifs en périphérie de réseau déployés dans des réseaux militaires sécurisés
  • Exemples d’application : une organisation du secteur de la défense (catégorie 9) qui utilise l’IA pour la surveillance tactique en temps réel et l’aide autonome à la décision (catégories F et H – Apprentissage profond et apprentissage par renforcement et systèmes autonomes) accordera une attention particulière à la protection cryptographique des modèles hébergés sur les dispositifs, à la mise en œuvre d’une gestion des identités fondée sur les principes de l’architecture à vérification systématique pour les agents autonomes et à l’intégration de mécanismes de protection contre l’altération des dispositifs déployés sur le terrain
• Catégorie 10 – Services financiers (informatique en périphérie)
  • Description : utilisation de l’IA par le secteur financier dans des emplacements situés en périphérie de réseau
  • Exemples : algorithmes de détection de la fraude exécutés sur des guichets automatiques bancaires ou des terminaux de point de vente, dispositifs d’authentification biométrique utilisés dans les succursales bancaires, systèmes de négociation à haute fréquence déployés à la périphérie des plateformes boursières et solutions d’analyse en périphérie de réseau pour le traitement des opérations financières en temps réel
  • Exemples d’application : une institution financière (catégorie 10) qui utilise l’IA pour détecter la fraude en temps réel sur des terminaux de point de vente (catégorie D – Apprentissage automatique traditionnel) accordera une attention particulière à la surveillance de l’intégrité des modèles, à la sécurisation des mécanismes de mise à jour des modèles et des logiciels et à la détection des anomalies permettant de repérer toute tentative de manipulation du comportement du modèle de détection de fraude

L’identification de la catégorie correspondant à votre organisation — ou de la combinaison de catégories qui s’applique à votre contexte — vous aidera à adapter les présentes lignes directrices à vos besoins particuliers. Par exemple, un organisme du secteur de la santé pourrait accorder la priorité à la souveraineté des données et à la surveillance des modèles pour assurer la sécurité des patientes et patients, tandis qu’une organisation du secteur de la défense mettrait davantage l’accent sur le renforcement de la protection des modèles et sur la supervision humaine des systèmes autonomes. Vous pouvez utiliser ces catégories comme point de départ pour orienter vos efforts vers les domaines où les risques et les répercussions sont les plus importants.