Le Centre canadien pour la cybersécurité (Centre pour la cybersécurité) s'est joint à l'Australian Cyber Security Centre (ACSC) de l'Australian Signals Directorate (ASD) et aux partenaires internationaux suivants pour publier des conseils en matière de cybersécurité sur l'adoption prudente des services d'intelligence artificielle (IA) agentive :
- la Cybersecurity and Infrastructure Security Agency (CISA), États-Unis;
- la National Security Agency (NSA) des États-Unis;
- le National Cyber Security Centre de la Nouvelle-Zélande (NCSC-NZ);
- le National Cyber Security Centre du Royaume-Uni (NCSC-UK).
Les systèmes d'IA agentive sont composés d'agents qui se fondent sur de grands modèles de langage (GML) pour raisonner, planifier, prendre des décisions et prendre des mesures de façon autonome sans intervention humaine. Si ces systèmes proposent d'excellents avantages en fait d'automatisation et améliorent l'efficacité opérationnelle, leur capacité à agir de façon autonome entre les outils, les données et les environnements interconnectés présente des risques considérables à la sécurité.
Au fil de la croissance du rôle des systèmes d'IA agentive, il est essentiel pour les organisations de mettre en place des mesures de contrôle de sécurité pour protéger la sécurité nationale et les systèmes d'infrastructures essentielles contre les risques que ces systèmes précis présentent.
Le présent bulletin est destiné aux organisations qui envisagent de développer ou de déployer des systèmes d'IA agentive. Il souligne les considérations de sécurité liées aux GML et à l'IA et décrit les principaux risques associés à l'IA agentive.
Le bulletin présente également des pratiques exemplaires qui permettent aux développeuses et développeurs, aux fournisseurs et aux exploitants de sécuriser les systèmes d'IA agentive. Ces pratiques comprennent notamment d'ajouter une couche de défense et des contrôles d'accès afin de diminuer la probabilité qu'une compromission survienne. Les organismes ayant rédigé la présente ont également fourni des conseils adaptés sur les sujets suivants :
- concevoir et développer des agents sécurisés;
- déployer l'IA agentive de façon sécurisée;
- exploiter l'IA agentive de façon sécurisée;
- se protéger contre les risques futurs.
Consultez la version intégrale du bulletin : Careful adoption of agentic AI services (en anglais seulement).