Gouverner l'IA agentique : risques, périls et les sept règles de l'agenticité instituée
Le risque agentique ne vient pas d'une conscience ni d'une volonté de la machine. Il vient des symboles, de l'optimisation, des outils, des permissions et des boucles de rétroaction. Cette conférence donne aux dirigeants un cadre sobre et non catastrophiste :
- le produit du risque (capacité x autonomie de la boucle x criticité de l'environnement x étendue des permissions x faiblesse de la supervision)
- la façon dont un système détourne discrètement ses propres objectifs (loi de Goodhart et détournement de récompense, sans la moindre mauvaise intention)
- la frontière de sûreté qui devient linguistique (une injection de prompt transforme une mauvaise réponse en mauvaise action)
- le passage d'une gouvernance de ce que la machine est censée « penser » à une gouvernance des actions qu'on l'autorise réellement à faire
La gouvernance n'est pas le frein qui ralentit l'innovation en entreprise ; ce sont les freins qui vous permettent de lancer l'IA la plus avancée à pleine vitesse tout en la gardant acceptable. Elle situe aussi pourquoi le sujet est déjà d'actualité et où les agents agissent déjà, en graduant leur autonomie sur les cinq degrés d'agenticité, réglés par le curseur MAYA (Most Advanced Yet Acceptable, aussi avancé que possible sans franchir le point où l'humain décroche), avant de décider ce que chaque degré peut être autorisé à faire. La règle d'or tient en une ligne : plus une erreur coûte cher, moins l'IA garde d'autonomie.
Objectifs : Repartez avec le produit du risque, la matrice autonomie-permissions-gouvernance (cinq degrés), les sept règles de l'agenticité instituée (séparation des pouvoirs, journalisation, validation humaine de l'irréversible, tests adverses, exercices d'arrêt, ouverture graduée) et l'argument de souveraineté du groupe électrogène open source.
