Formation de sensibilisation à l'IA destinée aux employés : sécurité de l'IA, conformité en matière d'IA et « shadow AI »

En bref : les formations de sensibilisation à l’IA apprennent aux employés à reconnaître les attaques utilisant l’IA, telles que les tentatives d’hameçonnage rédigées par l’IA et le clonage vocal (sensibilisation à la sécurité de l’IA), et à utiliser les outils d’IA au travail sans divulguer de données ni enfreindre les règles (conformité à l’IA). Depuis le 2 février 2025, l’article 4 de la loi européenne sur l’IA impose aux organisations qui utilisent des systèmes d’IA de prendre des mesures pour renforcer les compétences de leur personnel en matière d’IA. Un bon programme couvre ces deux aspects, s’appuie sur une politique claire en matière d’IA et tient un registre des personnes ayant suivi la formation.

L'IA offre autant d'opportunités que de risques. Les pirates s'en servent pour améliorer leurs techniques d'hameçonnage et simuler des voix, tandis que les employés copient-collent des données clients dans des chatbots publics pour gagner dix minutes.

Comparaison entre les formations sur la sensibilisation à l'IA, la sécurité en matière d'IA et la conformité à l'IA

De nombreuses entreprises commencent par se concentrer sur la sécurité, car cette menace est immédiate. La conformité revêt toutefois une importance tout aussi urgente : de nombreux incidents liés à l'IA ne sont pas le fait d'un pirate informatique, mais d'un employé bien intentionné.

Comment l'IA modifie le paysage des menaces

Hameçonnage et ingénierie sociale générés par l'IA

Autrefois, le phishing se trahissait par un langage maladroit et des formules de politesse génériques. L’IA générative élimine ces deux éléments : un modèle peut lire le profil LinkedIn d’une personne et rédiger un e-mail dans le style d’un collègue, dans un néerlandais ou un allemand irréprochable, quelle que soit l’ampleur de l’opération. Microsoft a mesuré cet effet dans son rapport « Digital Defense Report 2025 » : le phishing automatisé par l’IA a atteint un taux de clics de 54 %, soit 4,5 fois plus élevé que celui du phishing traditionnel. Rechercher des fautes d’orthographe ne fonctionne plus. Ce qui fonctionne, c’est d’évaluer la demande elle-même : est-elle inattendue, urgente, concerne-t-elle de l’argent ou des identifiants de connexion ? Notre guide « Qu’est-ce que le phishing ? » présente les notions de base.

Recherche sur les logiciels malveillants et les vulnérabilités à l'aide de chatbots

Autrefois, la création de logiciels malveillants ou la recherche de failles de sécurité nécessitait des pirates informatiques expérimentés. En octobre 2024, OpenAI a confirmé avoir déjoué plus de 20 opérations malveillantes qui exploitaient ChatGPT, notamment pour déboguer des logiciels malveillants et préparer des attaques de spear phishing. Cela n’a pas donné de nouvelles capacités aux attaquants, mais leur a permis d’agir plus rapidement. Conséquence pour les employés : davantage d’attaques dans leur boîte de réception, y compris de la part de cybercriminels moins expérimentés.

Les « deepfakes » et le clonage vocal

Un « deepfake » est un enregistrement vidéo ou audio falsifié et réaliste représentant une personne réelle. En 2024, un employé d’Arup à Hong Kong a transféré environ 25,6 millions de dollars américains à la suite d’un appel vidéo au cours duquel le directeur financier et d’autres collègues étaient tous des « deepfakes », a rapporté CNN. La même année, des criminels ont tenté de se faire passer pour Mark Read, le PDG de WPP, à l’aide d’un clone vocal lors d’une réunion sur Teams, mais leur tentative a échoué car le personnel est resté vigilant. En février 2025, une voix clonée du ministre italien de la Défense, Guido Crosetto, a persuadé l'homme d'affaires Massimo Moratti de transférer près d'un million d'euros. L'argent a été retracé jusqu'à un compte bancaire néerlandais et gelé. D'autres cas sont répertoriés dans notre recueil d'exemples de deepfakes.

La même astuce est utilisée auprès des particuliers : un appel au cours duquel vous entendez la voix paniquée de votre fille qui vous demande de l’argent. Hésiteriez-vous ? La plupart des gens n’hésiteraient pas. Se méfier d’une voix familière, c’est précisément le réflexe que la formation doit vous permettre d’acquérir.

Shadow AI : le risque qui vient de l'intérieur

L'« IA fantôme » désigne l'utilisation d'outils d'IA que l'entreprise n'a pas approuvés ou dont elle n'a pas connaissance : un chatbot gratuit sur un compte personnel, une extension de navigateur qui résume les e-mails, un outil d'IA permettant de prendre des notes pendant les réunions. Le risque réside dans les données qui y sont introduites. Les versions gratuites peuvent enregistrer ce que vous saisissez et l'utiliser à des fins d'apprentissage, et une fois qu'un dossier client a été collé, il est impossible de le récupérer.

Dans le rapport 2025 d’IBM intitulé « Cost of a Data Breach », une organisation sur cinq parmi celles étudiées a signalé une violation impliquant une IA fantôme. Pour les organisations recourant largement à l’IA fantôme, le coût d’une violation était en moyenne supérieur de 670 000 dollars américains à celui des organisations qui n’y recouraient que peu, voire pas du tout. Seules 37 % des organisations disposaient de politiques visant à gérer l’IA ou à détecter l’IA fantôme.

L'Autorité néerlandaise de protection des données a reçu, en 2024 et 2025, des dizaines de signalements concernant le partage d'informations sensibles via des chatbots. À la mairie d'Eindhoven, un échantillon interne a révélé que des employés avaient saisi des documents confidentiels dans des chatbots publics pendant trente jours, notamment des dossiers relatifs à la prise en charge des mineurs, comme l'a rapporté Accountant.nl en décembre 2025. La mairie a depuis bloqué l'accès aux sites web publics utilisant l'IA.

Le simple fait de bloquer ne résout que rarement le problème, car l'IA permet de gagner du temps. La solution durable réside dans une politique claire, une alternative approuvée et une formation expliquant pourquoi ces règles existent.

Pourquoi les formations classiques à la sensibilisation à la sécurité ne suffisent pas

De nombreuses formations continuent d’apprendre aux participants à repérer les fautes de frappe dans des e-mails qui n’en contiennent pourtant plus, sans aborder le contenu susceptible d’être saisi dans un chatbot. Les formations à la sensibilisation à la sécurité en matière d’IA mettent l’accent sur les menaces liées à l’IA, afin que les employés puissent les identifier et les signaler. C’est important, car la plupart d’entre nous surestimons notre capacité à repérer les menaces, jusqu’à ce que le responsable informatique organise une simulation d’hameçonnage et que nous saisissions nos identifiants.

Formation à la conformité en matière d'IA et loi européenne sur l'IA

Le principal texte législatif en Europe est la loi européenne sur l’IA, le règlement (UE) 2024/1689. En matière de formation, c’est l’article 4 qui fait autorité. Depuis le 2 février 2025, il impose aux fournisseurs et aux exploitants de systèmes d’IA de prendre des mesures pour renforcer les compétences en matière d’IA du personnel qui travaille avec l’IA pour leur compte. Une organisation dont les employés utilisent des outils tels que ChatGPT ou Copilot dans le cadre de leur travail est généralement considérée comme un exploitant. L’« Omnibus numérique sur l’IA », en vigueur depuis juillet 2026, a maintenu cette obligation mais a supprimé l’exigence d’atteindre un niveau « suffisant », selon la Commission européenne. Les autorités nationales veillent à son application à compter du 2 août 2026. Aucun certificat n’est requis : les registres internes de formation suffisent. La signification concrète de la culture de l’IA est expliquée sur notre page consacrée à la formation à la culture de l’IA.

Les amendes prévues par la loi sur l'IA peuvent atteindre 35 millions d'euros ou 7 % du chiffre d'affaires mondial, mais ce plafond s'applique uniquement aux pratiques interdites. L'article 99 ne mentionne pas l'article 4 parmi les obligations passibles d'amende. Le véritable risque : après un incident, une organisation qui ne peut pas prouver qu'elle a formé son personnel aura beaucoup à expliquer.

Les formations à la conformité en matière d'IA permettent au personnel et à la direction de se familiariser avec des thèmes tels que :

• Catégories de risque : déterminer si un système d'IA est interdit, présente un risque élevé ou n'entre dans aucune de ces deux catégories
• Transparence : informer les utilisateurs lorsqu'ils ont affaire à l'IA ou à du contenu généré par l'IA
• Confidentialité : les implications du RGPD pour les données à caractère personnel dans les invites, les fichiers téléchargés et les résultats générés par l'IA
• Contrôle humain : vérifier les résultats générés par l'IA avant leur utilisation dans la prise de décision et conserver une piste d'audit

Une politique d'utilisation acceptable de l'IA : ce qu'elle doit contenir

Une formation sans politique laisse les employés dans le flou, et une politique sans formation finit au fond d'un tiroir. Une politique d'utilisation acceptable de l'IA définit les règles dans un langage simple. Une politique applicable tient sur deux pages et couvre au moins :

• Outils autorisés : quels outils d'IA peuvent être utilisés, avec quel compte, et comment en demander un nouveau
• Règles relatives aux données : quelles données ne doivent en aucun cas être intégrées (données à caractère personnel, dossiers clients, code source, contrats, mots de passe) et quelles données peuvent être intégrées dans les outils autorisés
• Vérification du contenu : le texte généré par l'IA n'est qu'un brouillon ; la responsabilité des faits, des chiffres et du ton incombe toujours à une personne.
• Utilisations interdites : par exemple, la prise de décisions concernant des personnes sans contrôle humain, ou l'utilisation d'IA pour prendre des notes lors de réunions confidentielles
• Signalement : où signaler une erreur, comme des données collées dans le mauvais outil, sans craindre d'être blâmé
• Responsabilité et révision : à qui incombe la responsabilité de la politique et à quelle fréquence est-elle mise à jour ?

La formation permet d'ancrer la politique en transposant les règles dans des situations concrètes. « Ne saisissez pas de données personnelles » est une consigne abstraite. En revanche, le fait qu'un collègue colle une réclamation client, adresse comprise, dans un chatbot gratuit ne l'est pas. En répétant ce genre de scénarios, la politique devient une habitude. C'est là l'essence même d'une culture de sensibilisation à la sécurité.

Contenu d'un programme de formation à la sensibilisation à l'IA

Comment mettre en place une formation à l'IA pour les employés

1. Évaluez l'utilisation de l'IA. Découvrez quels outils sont réellement utilisés, par qui et dans quel but. Un bref sondage anonyme en dit souvent plus long que les journaux réseau.
2. Rédiger ou mettre à jour la politique relative à l'IA et proposer une alternative approuvée pour les cas d'utilisation les plus courants.
3. Définissez un niveau de référence. Réalisez une simulation d'hameçonnage et un bref test de connaissances avant le début de la formation.
4. Entraînez-vous régulièrement par petites sessions. Une formation en ligne annuelle s'oublie vite, tandis que le micro-apprentissage, court et régulier, permet de maintenir les connaissances à jour.
5. Adapté à chaque fonction : demandes de paiement « deepfake » pour la finance, faux candidats pour les RH, secrets dans les outils d’IA pour les développeurs, gouvernance pour la direction.
6. Consignez tout par écrit : qui a été formé, quand et sur quels sujets, ainsi que la version de la politique. Ce sont là vos éléments de preuve au titre de la loi sur l'IA (AI Act) et dans le cadre des audits NIS2 et ISO 27001.

Assurez-vous que le programme que vous choisissez intègre un module dédié à l'IA. C'est le cas de Guardey : grâce à de courts défis hebdomadaires d'environ trois minutes, les collaborateurs se familiarisent avec les dernières menaces liées à l'IA, telles que les « deepfakes ». Des simulations d'hameçonnage sont également proposées ; les équipes s'affrontent dans des classements et les auditeurs acceptent les rapports établis dans le cadre de la directive NIS2, de la norme ISO 27001 et de plus de 40 autres référentiels.

Comment évaluer l'efficacité des formations de sensibilisation à l'IA ?

Les taux de finalisation reflètent les clics, et non le comportement. Mesurez plutôt le comportement :

• Résultats de la simulation d'hameçonnage : le taux de clics et, surtout, le taux de signalement, suivis au fil du temps
• Signaux « Shadow AI » : trafic vers des outils d'IA non approuvés et alertes de prévention des pertes de données, avant et après l'entraînement
• Erreurs signalées par les intéressés : un nombre plus élevé de signalements est souvent un bon signe, car cela signifie que les gens osent s'exprimer
• Participation au fil du temps : une participation hebdomadaire régulière est plus révélatrice qu'un pic ponctuel survenant après une séance obligatoire

Examinez ces chiffres chaque trimestre, en les mettant en parallèle avec les nouveaux outils d'IA utilisés et les nouvelles techniques d'attaque. Un programme qui n'est pas mis à jour plusieurs fois par an prend du retard sur les attaquants qu'il est censé contrer.

Questions fréquentes

Qu'est-ce qu'une formation à la sensibilisation à l'IA ?

Formation visant à expliquer aux employés comment les criminels utilisent l'IA dans le cadre d'attaques telles que les « deepfakes », et comment utiliser les outils d'IA au travail en toute sécurité et dans le respect des règles. Elle se présente généralement sous la forme de modules courts et récurrents.

Quelle est la différence entre une formation à la sensibilisation à la sécurité en matière d'IA et une formation à la conformité en matière d'IA ?

La formation à la sensibilisation à la sécurité en matière d'IA vise à se prémunir contre les attaques utilisant l'IA, telles que le phishing, les deepfakes et le clonage vocal. La formation à la conformité en matière d'IA porte sur votre propre utilisation de l'IA : outils approuvés, protection des données, loi européenne sur l'IA et politique de l'entreprise en matière d'IA. La plupart des organisations ont besoin des deux.

La formation à l'IA des salariés est-elle obligatoire en vertu de la loi européenne sur l'IA ?

Depuis le 2 février 2025, l'article 4 impose aux organisations qui utilisent des systèmes d'IA de favoriser la maîtrise de l'IA par leur personnel. La loi ne prescrit aucune formation ni aucun certificat spécifique, mais une formation accompagnée d'un dossier de suivi constitue généralement le moyen habituel de se conformer à cette exigence.

Qu'est-ce que l'IA « fantôme » ?

Le « Shadow AI » désigne l'utilisation d'outils d'IA non approuvés par l'entreprise, souvent des chatbots gratuits sur des comptes personnels. Le principal risque réside dans le fait que des données confidentielles ou personnelles se retrouvent dans des outils que l'entreprise ne contrôle pas.

La formation à la sensibilisation à la sécurité basée sur l'IA est-elle la même chose que la formation à la sensibilisation à l'IA ?

Non. Dans le cadre d'une formation basée sur l'IA, la plateforme utilise elle-même l'IA, par exemple pour personnaliser le contenu. Une formation de sensibilisation à l'IA porte quant à elle sur l'IA en tant que sujet. Une plateforme peut proposer les deux.