Connexion à l'espace du CercleDiagnostic 30 min

Consulting IA et stratégieMis à jour le

Qu'est-ce que la gouvernance de l'IA ?

La gouvernance de l'IA est l'ensemble des règles, des rôles et des contrôles qu'une organisation met en place pour décider quels usages de l'intelligence artificielle autoriser, les encadrer, en suivre les risques et en rendre compte.

Aussi appelé : gouvernance de l'IA, gouvernance de l'intelligence artificielle, AI governance, ISO 42001

En clair

Dans une entreprise de cinquante personnes, la directrice administrative est désignée responsable de l'IA. Elle tient la liste des outils autorisés, valide chaque nouveau cas d'usage avec le dirigeant, s'assure que les données personnelles sont protégées et présente chaque trimestre un point sur les usages, les gains mesurés et les incidents.

Comment ça marche

Des rôles clairs

Qui décide d'autoriser un outil ou un usage, qui le met en œuvre, qui contrôle. Dans une PME, ces rôles tiennent en quelques noms : un sponsor à la direction, un responsable opérationnel, parfois un référent IA par service.

Des règles et des contrôles

La charte d'usage dit aux équipes ce qui est permis. Les contrôles vérifient la conformité au RGPD et à l'AI Act, la qualité des résultats, les biais éventuels et la sécurité des données.

Un suivi dans le temps

La gouvernance tient un inventaire des usages, suit les indicateurs et les incidents, et revoit les règles quand les outils ou la réglementation changent. La norme ISO/IEC 42001 propose un cadre pour organiser cette amélioration continue.

À ne pas confondre avec

Gouvernance IA et les termes voisins
Terme voisinSa définitionLa différence
Charte d'usage de l'IAUne charte d'usage de l'IA est un document interne qui fixe les règles d'utilisation de l'intelligence artificielle par les collaborateurs : outils autorisés, données interdites, relecture obligatoire, transparence et personne à contacter en cas de doute.La charte est un document destiné aux utilisateurs. La gouvernance est le dispositif complet : qui décide, qui contrôle, comment les risques sont suivis. La charte n'en est qu'un élément.
AI Act (règlement européen sur l'IA)L'AI Act est le règlement (UE) 2024/1689, la loi européenne sur l'intelligence artificielle : il classe les systèmes d'IA selon leur niveau de risque et fixe à chaque niveau des obligations, de l'interdiction à la simple transparence.L'AI Act est une obligation légale venue de l'extérieur. La gouvernance est l'organisation interne qui permet, entre autres, de la respecter.
  • Charte d'usage de l'IAUne charte d'usage de l'IA est un document interne qui fixe les règles d'utilisation de l'intelligence artificielle par les collaborateurs : outils autorisés, données interdites, relecture obligatoire, transparence et personne à contacter en cas de doute.
  • AI Act (règlement européen sur l'IA)L'AI Act est le règlement (UE) 2024/1689, la loi européenne sur l'intelligence artificielle : il classe les systèmes d'IA selon leur niveau de risque et fixe à chaque niveau des obligations, de l'interdiction à la simple transparence.
  • RGPD et IALe RGPD, règlement général sur la protection des données, s'applique à tout projet d'intelligence artificielle qui traite des données personnelles : base légale, information des personnes, minimisation, sécurité, durée de conservation et choix des sous-traitants.
  • Shadow AI (IA fantôme)La shadow AI, ou IA fantôme, désigne l'usage d'outils d'intelligence artificielle par des collaborateurs sans l'accord ni le contrôle de leur entreprise, par exemple un assistant grand public utilisé avec des données internes.
  • Référent IAUn référent IA est un collaborateur désigné pour accompagner l'usage de l'intelligence artificielle dans son entreprise ou son service : répondre aux questions, partager les bonnes pratiques, faire remonter les besoins et veiller au respect des règles.
  • SponsorLe sponsor est le dirigeant qui porte un projet au plus haut niveau : il en défend l'intérêt, arbitre les priorités, débloque le budget et les ressources, et donne aux équipes la légitimité pour changer leurs façons de travailler.
  • Biais algorithmiqueUn biais algorithmique est une erreur systématique qui rend les résultats d'un système d'IA injustes ou déséquilibrés, souvent parce que ses données d'entraînement reflètent des déséquilibres ou des préjugés existants.
  • ExplicabilitéL'explicabilité est la capacité à rendre compréhensibles les éléments qu'un système d'IA a pris en compte pour produire un résultat, avec des explications adaptées à la personne qui les reçoit.

Pour aller plus loin

Questions fréquentes

Une PME a-t-elle besoin d'une gouvernance de l'IA ?

Oui, à sa mesure. Il suffit souvent d'un responsable désigné, d'une liste des outils autorisés, d'une charte d'usage et d'un point régulier sur les usages, les résultats et les incidents.

Existe-t-il une norme de gouvernance de l'IA ?

Oui. La norme ISO/IEC 42001, publiée en décembre 2023, décrit un système de management de l'intelligence artificielle. Elle n'est pas obligatoire, mais elle donne un cadre reconnu pour organiser les rôles, les risques et l'amélioration continue, et elle peut être certifiée.

Sources

  1. ISO, « ISO/IEC 42001 explained », consulté le .
  2. Commission européenne, « AI Act », cadre réglementaire de l'IA, consulté le .

30 minutes pour savoir combien de temps vous récupérez.

Diagnostic offert, sans engagement, avec Mehdi ou Loïc. Réponse confirmée sous 24 h ouvrées.

  • Un échange concret, pas un argumentaire
  • 3 pistes d'automatisation identifiées
  • Compte-rendu écrit envoyé sous 24 h
Réserver mon diagnostic gratuitAppeler le +33 6 35 51 35 74

Réserver votre diagnostic de 30 min

30 minutes avec Mehdi ou Loïc, offertes et sans engagement. Choisissez le créneau qui vous arrange.

Chargement du planning…

Ouvrir le planning dans un nouvel onglet

Cookies et mesure d'audience

Nous mesurons l'audience avec Google Analytics si vous l'acceptez. En savoir plus sur les cookies et la politique de confidentialité