L’intelligence artificielle générative - ITSAP.00.041

Les façons dont on utilise l’IA générative

L’IA générative est une technologie à la fois transformatrice et perturbatrice qui peut changer considérablement la façon dont les consommatrices, les consommateurs, les industries et les entreprises mènent leurs activités. Elle a le potentiel d’offrir la créativité et l’innovation nécessaires pour améliorer les services et les activités commerciales. Voici quelques exemples courants de la manière dont l’IA est utilisée pour améliorer des produits et contextualiser du contenu.

Images et vidéos

L’IA générative peut servir à analyser, à modifier et à créer du contenu visuel à des fins personnelles ou commerciales. L’IA peut effectuer des recherches visuelles et contextualiser le contenu pour offrir différents exemples et descriptions.

Robotique

Cette technologie de l’IA fait appel à la planification et à la détection de mouvement pour accomplir diverses tâches. Les véhicules autonomes et les drones en sont quelques exemples. L’IA générative peut servir à automatiser les processus et à améliorer les fonctionnalités.

Langue

L’IA peut comprendre les voix et le texte pour les analyser et y répondre, puis effectuer des tâches. Les centres d’appels et les agents conversationnels de sites Web se servent de l’IA générative afin d’analyser les demandes initiales pour tenter de répondre à des questions courantes sans intervention humaine.

Divertissement

L’IA analyse l’engagement pour déterminer les interactions entre différents logiciels et applications, dans le but de recommander du contenu aux utilisatrices et utilisateurs.

De nombreuses industries et entreprises utilisent l’IA générative pour améliorer les processus. Les secteurs ci-dessous ont trouvé des applications utiles pour cette technologie.

Soins de santé

L’IA générative aide les fournisseurs de soins de santé à poser des diagnostics plus rapides et à personnaliser les plans de traitement. Elle peut également être intégrée à des robots médicaux pour aider le personnel dans le cadre de chirurgies, de tests de diagnostic et d’analyses.

Développement logiciel

L’IA générative facilite le débogage et permet aux développeuses et développeurs de logiciels de générer du code ou de produire des extraits de code. Il est ainsi possible d’accélérer le développement et la diffusion des produits logiciels. L’IA générative est également intégrée dans les logiciels pour améliorer diverses fonctionnalités et offrir du contexte ou des analyses aux utilisatrices et utilisateurs, par exemple dans Microsoft Word.

Marché en ligne

L’IA générative permet aux agents conversationnels de fournir des réponses semblables à l’humain, ce qui aide les organisations à améliorer le service à la clientèle et à réduire les coûts de soutien.

Entreprises

L’IA générative crée des communications personnalisées destinées à la clientèle existante et potentielle, et génère des modèles de vente prédictifs visant à prédire le comportement des clientes et clients. Elle peut également produire rapidement du contenu rentable à utiliser dans les campagnes de marketing, les publicités et les vidéos.

Agriculture

L’IA générative permet d’automatiser des tâches agricoles comme la plantation, la récolte et la surveillance dans la machinerie autonome. Elle offre également des prévisions et avis personnalisés permettant d’améliorer la durabilité et l’efficience à l’égard des résultats de produits et de réduire les coûts et la main-d’œuvre.

Éducation

L’IA générative permet au personnel enseignant de créer des plans d’apprentissage personnalisés pour les étudiantes et étudiants en fonction de leur rendement, de leurs besoins et de leurs intérêts, ce qui peut aider le personnel à mieux soutenir les élèves.

Cybersécurité

L’IA facilite l’amélioration des outils de cyberdéfense contre les rançongiciels et les autres attaques. Elle aide les praticiennes et praticiens de la sécurité à analyser plus facilement les grands jeux de données afin de relever les menaces et de minimiser les faux positifs en filtrant les activités non malveillantes.

Les risques liés à l’IA générative

Alors que les capacités technologiques de l’IA générative présentent de grandes possibilités, elles comportent également de nombreux risques. L’IA générative peut aider les auteurs de menace à développer des exploits malveillants et à potentiellement mener des cyberattaques plus efficaces, surtout à mesure que les avancées dans le domaine de l’IA améliorent la qualité et augmente la quantité du contenu. Le fait que l’IA générative puisse conférer une influence considérable aux auteurs de menace suscite de grandes inquiétudes. Vous trouverez ci-dessous certains des risques auxquels on doit porter attention.

Mésinformation et désinformation

Le contenu qui n’est pas clairement identifié comme étant généré par IA pourrait entraîner de la mésinformation, de la désinformation et de la confusion. Les auteurs de menace ont recours à l’IA pour commettre des fraudes et mener des campagnes frauduleuses contre des particuliers et des organisations.

Hameçonnage

Les auteurs de menace peuvent concevoir automatiquement des attaques par harponnage plus fréquentes et plus sophistiquées. Des courriels d’hameçonnage ou des messages d’escroquerie très réalistes pourraient mener à des vols d’identité, à de la fraude financière ou à d’autres formes de cybercrimes.

Confidentialité des données

Les utilisatrices et utilisateurs peuvent fournir sans le savoir des données organisationnelles sensibles ou de l’information nominative dans les requêtes et les invites qu’ils envoient aux outils d’IA. Les auteurs de menace pourraient collecter cette information sensible en vue d’usurper l’identité d’une personne ou de répandre de la fausse information.

Code malveillant

Des auteurs de menace possédant des compétences techniques peuvent contourner les restrictions dans les outils d’IA générative pour créer des maliciels et les utiliser lors de cyberattaques ciblées. Ceux qui n’ont que peu ou pas d’expérience en codage peuvent faire appel à l’IA générative pour rédiger facilement des maliciels fonctionnels qui pourraient perturber les activités d’une entreprise ou d’une organisation.

Code entaché d’erreurs

Les développeuses et développeurs de logiciels peuvent introduire involontairement du code non sécurisé ou entaché d’erreurs dans le pipeline de développement. Ce pourrait être le cas, notamment, s’ils omettent de mettre en place des mesures de traitement des erreurs et des vérifications de sécurité adéquates, ou si ces mesures sont mises en œuvre de façon inappropriée.

Jeux de données empoisonnés

Les auteurs de menace peuvent injecter du code malveillant dans le jeu de données servant à entraîner le système d’IA générative, ce qui risque d’avoir une incidence négative sur la précision et la qualité des données générées. Cela pourrait également accroître les risques d’attaques à grande échelle de la chaîne d’approvisionnement.

Contenu biaisé

Une grande partie des jeux de données d’entraînement alimentés dans les GML proviennent de l’Internet ouvert. Ainsi, le contenu généré fait l’objet d’un biais fondamental, puisque seule une petite partie de toutes les données à travers le monde sont accessibles en ligne et peuvent être utilisées aux fins de l’IA. Le contenu généré peut également être préjudiciable si le jeu de données d’entraînement n’offre pas une représentation équitable des points de données.

Perte de propriété intellectuelle

Les outils d’IA générative peuvent permettre aux auteurs de menace dotés de moyens sophistiqués de voler des données organisationnelles plus facilement, rapidement et en lot. Une perte de propriété intellectuelle (comme des renseignements commerciaux exclusifs et des données protégées par le droit d’auteur) peut porter atteinte à la réputation d’une organisation, à ses revenus et à sa croissance future.

Attention à l’information qui provient de l’IA

Il importe de faire preuve de prudence lorsque vous utilisez l’IA générative et de savoir que cette technologie a recours à l’apprentissage automatique pour construire des réponses en fonction d’une invite ou d’une requête. N’oubliez pas que les résultats peuvent :

• être erronés;
• ne pas avoir de sens;
• ne pas tenir compte de certains facteurs;
• être biaisés.

Il est important de faire attention et d’analyser le contenu de l’IA avant d’agir ou de s’en servir. Vous devriez toujours faire preuve de vigilance et valider vos sources pour vérifier l’exactitude du contenu présenté.

Comment atténuer les risques

L’IA générative est un outil puissant auquel les auteurs de menace peuvent faire appel pour lancer des cyberattaques. À mesure que cette technologie continue de s’étendre, les cyberattaques risquent d’être plus fréquentes et plus sophistiquées. Bien qu’il puisse être difficile de détecter les menaces qui tirent parti de l’IA, les organisations et les particuliers peuvent se préparer aux défis grandissants que ces attaques pourraient poser.

Les organisations et les particuliers devraient commencer par adopter des pratiques exemplaires de base en cybersécurité afin de bien comprendre les risques et de prendre les mesures appropriées pour les atténuer.

Les organisations devraient prendre les mesures ci-dessous pour atténuer les risques de compromission découlant de cyberattaques.

Mettez en place des mécanismes d’authentification rigoureux

Sécurisez les comptes et les dispositifs sur les réseaux au moyen de l’authentification multifacteur (AMF) afin de prévenir l’accès non autorisé aux ressources les plus précieuses et aux données sensibles.

Appliquez les correctifs et les mises à jour de sécurité

Activez les mises à jour automatiques sur l’équipement de TI et corrigez les vulnérabilités exploitables connues le plus tôt possible. Cela aidera à éviter que des maliciels générés par IA infectent le réseau.

Restez à l’affût

Restez au courant des dernières menaces et vulnérabilités liées à l’IA générative et prenez des mesures proactives pour les atténuer.

Protégez votre réseau

Utilisez les outils de détection du réseau pour surveiller et analyser les activités anormales sur le réseau. Il est ainsi possible de cerner rapidement les incidents et les menaces, puis de prendre les mesures d’atténuation appropriées. Explorez également les façons dont l’IA pourrait être déployée à des fins défensives dans les outils de protection des réseaux et envisagez toutes les conséquences.

Formez votre personnel

Enseignez à toutes les utilisatrices et à tous les utilisateurs comment reconnaître les signes précurseurs d’une attaque par piratage psychologique et avec qui communiquer pour gérer ces situations en toute sécurité. Ces procédures devraient fournir aux utilisatrices et utilisateurs un moyen facile de signaler les attaques par hameçonnage ou les communications suspectes.

Les particuliers peuvent prendre les mesures ci-dessous afin de protéger leurs données personnelles contre les cyberattaques liées à l’IA.

Faites preuve de prudence lorsque vous communiquez des données

Ne communiquez aucun renseignement confidentiel aux outils d’IA à moins de bien comprendre comment vos données seront utilisées. Les données qui sont ainsi partagées servent à entraîner les modèles d’IA et peuvent alors être exploitées ou vendues.

Vérifiez le contenu

Comme la quantité de données accessibles ne cesse d’augmenter, il pourrait être difficile d’établir qui est responsable du contenu ou dans quelle mesure il est logique et basé sur les faits. Il est important de lire le contenu et de relever toute indication qu’il a été produit par un outil d’IA générative. Passez en revue le contenu généré et prenez le temps de vérifier les faits en consultant des sources crédibles.

Adoptez des pratiques exemplaires de base en cybersécurité

Restez à l’affût, utilisez des mots de passe robustes et activez l’authentification multifacteur (AMF) pour protéger les comptes en ligne. Assurez-vous d’appliquer les plus récentes mises à jour logicielles, d’utiliser des antivirus et d’éviter les réseaux Wi-Fi publics.

Limitez l’exposition au piratage psychologique ou à la compromission de courriel d’affaires

Mettez en place des pratiques de sécurité en ligne de base, comme :

• réduire la quantité de renseignements personnels que vous publiez en ligne;
• éviter d’ouvrir des pièces jointes et de cliquer sur les liens dans des courriels provenant de sources inconnues;
• communiquer par l’entremise d’un autre canal vérifié;
• vous méfier lorsque des personnes vous appellent pour demander de l’information sensible.

Mesures de sécurité à envisager

Si vous prévoyez d’utiliser l’IA générative ou que vous l’utilisez déjà, les mesures de sécurité ci-dessous peuvent vous aider à générer du contenu fiable et de qualité tout en atténuant les préoccupations en matière de protection de la vie privée.

Mettez en œuvre un plan de gestion des risques en matière de cybersécurité

Votre organisation devrait mettre en place un plan qui définit la façon d’utiliser l’IA et le contenu autorisé qui peut être généré. Appliquez les principes du développement sécurisé tout au long du cycle de vie du système d’IA pour surveiller les composants et les logiciels de tiers. Vos politiques devraient prévoir les processus de surveillance et d’examen nécessaires pour veiller à ce que la technologie soit utilisée de manière appropriée. Déterminez s’il convient d’utiliser l’IA pour la tâche en question (par exemple, en tenant compte des risques et des coûts) et s’il serait plus avantageux de développer un outil d’IA à l’interne que d’avoir recours à des produits de tiers.

Choisissez attentivement votre fournisseur

Si vous utilisez un outil d’IA préentraîné, demandez à votre fournisseur si les jeux de données proviennent d’une source externe ou s’ils ont été développés à l’interne et comment ils ont été validés. Utilisez des données diverses et représentatives pour éviter tout contenu inexact et biaisé. Mettez en place un processus visant à ce que les résultats soient passés en revue par une équipe multidisciplinaire provenant de l’ensemble de votre organisation, qui s’efforcera de relever des biais inhérents au système. Assurez-vous que votre fournisseur a intégré des pratiques de sécurité rigoureuses à ses processus de collecte, de stockage et de transfert de données. Peaufinez et réentraînez constamment le système d’IA en fonction de la rétroaction externe appropriée afin d’améliorer la qualité des résultats.

Faites attention à l’information que vous fournissez

Évitez de fournir de l’information nominative ou des données commerciales sensibles dans le cadre de vos requêtes ou dans les invites. Déterminez si l’outil permet à vos utilisatrices et utilisateurs de supprimer l’historique des invites.

Pour en savoir plus

• Intelligence artificielle (ITSAP.00.040)
• Sécurisez vos comptes et vos appareils avec une authentification multifacteur (ITSAP.30.030)
• Journalisation et surveillance de la sécurité de réseau (ITSAP.80.085)
• Repérer les cas de mésinformation, désinformation et malinformation (ITSAP.00.300)
• Ne mordez pas à l’hameçon : Reconnaître et prévenir les attaques par hameçonnage (ITSAP.00.101)
• Qu’est-ce que l’hameçonnage vocal? (ITSAP.00.102)