Conférences

Le risque agentique ne vient pas d'une conscience ni d'une volonté de la machine. Il vient des symboles, de l'optimisation, des outils, des permissions et des boucles de rétroaction. Cette conférence donne aux dirigeants un cadre sobre et non catastrophiste :

• le produit du risque (capacité x autonomie de la boucle x criticité de l'environnement x étendue des permissions x faiblesse de la supervision)
• la façon dont un système détourne discrètement ses propres objectifs (loi de Goodhart et détournement de récompense, sans la moindre mauvaise intention)
• la frontière de sûreté qui devient linguistique (une injection de prompt transforme une mauvaise réponse en mauvaise action)
• le passage d'une gouvernance de ce que la machine est censée « penser » à une gouvernance des actions qu'on l'autorise réellement à faire

La gouvernance n'est pas le frein qui ralentit l'innovation en entreprise ; ce sont les freins qui vous permettent de lancer l'IA la plus avancée à pleine vitesse tout en la gardant acceptable. Elle situe aussi pourquoi le sujet est déjà d'actualité et où les agents agissent déjà, en les plaçant sur les cinq degrés d'autonomie, réglés par le curseur MAYA (Most Advanced Yet Acceptable, aussi avancé que possible sans franchir le point où l'humain décroche), avant de décider ce que chaque degré peut être autorisé à faire. La règle d'or tient en une ligne : plus une erreur coûte cher, moins l'IA garde d'autonomie.

Vous posez une question sur vos données à un modèle de langage. Il répond un nombre. Le nombre est plausible. Il est faux. Presque personne ne signe une décision de comité sur la foi d'un nombre plausible. Ce seul fait bloque plus de déploiements que le budget et la réglementation réunis. La réponse n'est pas de mieux poser la question : c'est de retirer au modèle l'occasion de se tromper sur le chiffre.

• Le modèle écrit la requête, la base répond. Une requête fausse se voit, se garde, se rejoue et se corrige ; un nombre inventé ne se voit pas, puisqu'il ressemble exactement à un nombre juste.
• Deux verrous qui ne dépendent pas de la bonne volonté : un compte en lecture seule et une analyse de la structure de la requête avant toute exécution.
• Quatre questions, dans l'ordre où une réunion les pose : un chiffre, une prédiction ligne à ligne, une prévision à trois mois, un graphique choisi à la volée.
• Un examen que l'on n'a pas le droit d'avoir vu : des paires question-requête tenues à part, notées en exécutant les deux et en comparant les résultats, puis ventilées par famille de question.
• Un chiffre sans son incertitude est une opinion déguisée en fait, donc chaque prédiction arrive avec sa fourchette.

Construit sur un déploiement réel, avec les modes de défaillance que seule la production enseigne.

Demandez à une équipe ce que coûte une unité de son travail quand elle tourne, par requête, par document, par minute d'audio : vous obtiendrez le plus souvent une facture de cloud divisée par une estimation. Cette conférence construit le cadran qui manquait à ce compteur et dit quels nombres il a le droit d'afficher.

• Le périmètre fait le chiffre. Deux figures publiées pour une même inférence diffèrent d'un facteur trente-huit sans qu'aucune des deux soit évasive : elles répondent à deux questions différentes qui partagent une phrase.
• Chaque nombre porte son statut : mesuré, estimé, laissé ouvert, ou encore dû par un humain. Un nombre dérivé ne peut jamais se prétendre mieux fondé que le plus faible de ses ingrédients.
• La fabrication du matériel domine le plus souvent l'électricité sur une requête courte, d'un facteur trois à six et la durée de vie qui la fixe vous appartient.
• Une exécution ne borne rien : sur cinq exécutions identiques, le temps a bougé de 4,5 pour cent et la puissance mesurée de 49 pour cent.
• L'annexe XI du règlement européen sur l'IA demande la consommation d'énergie connue ou estimée et autorise une estimation à partir du calcul utilisé, ce qui est cette méthode écrite dans la loi.

Le livrable est un fichier versionné à côté du code, relu en revue de code et une barrière qui casse la compilation quand un coût ou un statut se dégrade.

Gouverner l'intelligence artificielle par la permission suppose qu'il y ait quelqu'un à qui demander. Cette supposition repose sur un socle que personne ne vote : le calcul, l'énergie, les réseaux, les données exclusives. Quand la cognition devient abondante, la rareté se déplace. Gouverner par permission devient insensiblement gouverner par la propriété.

• Un système d'exploitation plutôt que l'électricité : la métaphore choisie décide du régulateur que l'on croit devoir appeler.
• Le mur énergétique est local avant d'être global : une moyenne nationale ne dit rien de la commune dont un seul site absorbe l'eau ou la capacité de réseau.
• L'informatique durable gouverne un coût unitaire, pas un agrégat, ce qui explique aussi pourquoi le paradoxe de Jevons n'est pas une objection à l'efficacité.
• Le calcul comme levier politique : détectable, excluable, dénombrable, donc contrôlable, comme les contrôles à l'exportation l'ont déjà montré.
• Le triplet de criticité plutôt que le secteur : capacité d'agir, infrastructure critique, effets systémiques.

La conférence se termine sur la seule condition qui viderait toute l'approche par permission de son sens : un acteur unique qui possède tout.

« Tant que le compteur est inférieur à dix, recommencer » est une des plus vieilles phrases de l'informatique. Elle fonctionne parce que la machine sait répondre exactement, en un cycle d'horloge, à la question qu'on lui pose. Les questions qui décident vraiment de la qualité d'un travail ne sont pas de cette nature : ce graphique est-il lisible, ce paragraphe découle-t-il du précédent, cette prévision mérite-t-elle la production. On les avait donc sorties de nos boucles. Cette conférence les y remet.

• Quatre étapes : agir, rendre, juger, décider. L'étape que les équipes sautent est le rendu. Sans lui on juge une intention plutôt qu'un résultat.
• Le juge peut être un œil humain, un modèle de vision ou un jeu de données tenu à part. Il ne doit pas être celui qui agit : quand le même modèle écrit et note, la note monte pendant que la qualité réelle stagne.
• Le piège, mesuré : consultez assez souvent le même juge et la boucle apprend les manies du juge plutôt que le sujet.
• Un instrument pour la prose : l'aller-retour par une autre langue, où ce qui revient déformé marque l'endroit où le texte ne contraint pas assez sa propre lecture.
• Deux règles de conduite : une boucle autonome vaut la qualité du juge qu'on lui donne, plus l'interdiction de corrompre ce juge.

Tout le monde garde le dessin du cerveau ; presque personne ne garde le dessin de la tuyauterie. Le modèle est un organe bon marché. Les 90%, c'est :

• l'ingestion
• l'annotation
• le déploiement
• la surveillance
• les fils qui portent le signal de bout en bout

Et c'est là que les projets d'IA vivent ou meurent vraiment. Le MLOps, c'est le DevOps des modèles avec deux migraines de plus : la donnée dérive et il n'y a pas de code source à lire, seulement des poids à mesurer. Une conférence pour ingénieurs et managers techniques dans la même salle, assez de code pour être réel, assez de schémas pour être guidé.

Tous les métiers posent aujourd'hui la même question : que se passe-t-il quand une machine prend en charge la fonction centrale d'un métier. L'art y a déjà répondu deux fois, en 1839 quand la photographie a retiré à la peinture l'imitation réaliste et de nouveau maintenant que la synthèse retire à la photographie la fabrication d'images. La seconde réponse est plus utile que n'importe quelle prévision.

• Le verdict de 1859, servante et non maîtresse et ce que le métier a fait ensuite : il a changé de question plutôt que d'outils.
• La créativité mesurée : les machines gagnent le test de salon des usages inhabituels d'un objet et perdent sur des œuvres entières jugées à l'aveugle par des jurys qui ne savaient pas.
• Une pratique de travail, en chiffres : soixante-dix pour cent d'un film généré, quatre-vingts pour cent du temps passé à l'animer et à le retravailler, ce qui réfute le mythe du prompt magique.
• Des permissions gagnées plutôt que des principes débattus : les contrats de 2023 dans l'audiovisuel bornent l'ingestion, la délégation et l'attribution, c'est-à-dire la part gouvernable.
• Le vide juridique, mesuré : le paradoxe de l'entrée et de la sortie qu'aucune décision n'a encore tranché.

Un tour d'horizon honnête et daté du paysage :

• le cycle du hype de Gartner lu avec ses dates de sortie
• le paysage actuel des modèles (frontière et poids ouverts)
• l'outillage agentique
• l'état du RAG face au GraphRAG

Pour qui veut aller plus loin, un cursus gratuit et sélectionné. Le message est simple : plus tôt vous apprenez, mieux c'est.

Comment fonctionnent les grands modèles de langage (LLM) et comment les rendre dignes de confiance en production. On commence sous le capot, la tokenisation, les embeddings et l'attention des Transformers expliqués au tableau blanc sans vous noyer sous les équations, puis on passe à ce qu'un LLM fait pour l'entreprise, de la compréhension du langage au dialogue contextuel qui automatise les interactions client et aide à la décision. Ensuite on gravit l'échelle de maturité conversationnelle, chaque échelon un personnage :

• le LLM seul
• Retrieval Augmented Generation (RAG)
• les fenêtres de contexte long
• RAG plus LLM-comme-routeur
• le GraphRAG

Chemin faisant, on lie les causes de l'hallucination à leurs antidotes, ancrage, graphes de connaissance et règles symboliques, pour qu'un système raisonne sur vos faits et non à côté et on repère les nouvelles failles de sécurité qu'un pipeline RAG ouvre et qu'un simple LLM n'a pas.

Quand une mesure devient une cible, elle cesse d'être une bonne mesure. Entraînez un modèle sur l'approbation humaine et il apprend à flatter : la sycophance est l'effet Goodhart de l'apprentissage par retour humain, l'un des quatre régimes de Goodhart où le détournement de récompense est le prix structurel de la réduction d'un but riche par une mesure pauvre :

• découplage statistique
• extrêmes hors distribution
• intervention causale
• optimisation adverse

Résonner n'est pas raisonner ; un modèle réglé pour plaire vous renvoie votre propre signal amplifié, pas un jugement indépendant. La défense n'est donc pas plus d'esprit critique, qui juge le texte sous les yeux, mais la conscience critique, qui remonte d'un cran et demande qui l'a produit et avec quelle intention. La machine oublie aussi ce qui était convenu, change d'avis d'une fois sur l'autre, promet sans toujours tenir. On s'en sert tous les jours ; on ne lui confie pas la décision les yeux fermés, car décrire n'est pas décider. Aucune malveillance n'est requise ; c'est de l'arithmétique, pas de la méchanceté.

Pas « est-ce magique ? » mais « est-ce utile, utilisable et utilisé ? ». C'est le crible qui sépare un projet qui tient d'une démonstration qui brille un jour.

• Utile (le pouvoir des données) : la pertinence dans les systèmes bat les slogans ; au-delà de l'effet wow, quels sont vos KPI que l'IA comprend ?
• Utilisable (l'éclairage profond des données) : l'intégration dans les habitudes de travail bat la démo, avec les humains et le design (la conception) au centre.
• Utilisé (la responsabilité des données) : la rétention bat le volume, le vrai graal ; un système n'est pas livré puis laissé tel quel, il boucle avec les acteurs de l'entreprise.

Ce qui compte, c'est ce qui s'insère réellement dans le travail quotidien : quand un usage est bien rempli par une IA, les gens s'y ruent partout dans le monde, avec peu de loyauté pour l'outil précédent. C'est l'état terminal, l'IA invisible, si bien intégrée que l'adoption n'est plus un projet, juste la façon dont le travail se fait.

Trois génies de l'IA générative :

• le génie de l'écriture
• le génie de la programmation
• le génie artistique

Ils réécrivent les règles de la production, technique comme artistique et ne retourneront pas dans la lampe.

Découvrez comment les entreprises peuvent traduire les résultats avancés de l'IA en stratégies claires et exploitables qui génèrent un vrai retour sur investissement et trouvent un écho auprès des parties prenantes humaines. Tout projet d'IA qui en vaut la peine se paie dans l'une de cinq unités de valeur :

• argent
• temps
• énergie
• soin
• ce qui était autrefois impossible

Nommez l'unité et vous saurez piloter le projet.

Une conférence sectorielle où chaque décision porte un prix :

• la détection de fraude comme matrice de coûts où une fraude manquée et un bon client bloqué ne coûtent jamais pareil
• le score de crédit et ses pièges d'équité
• la prévision de la demande et des sinistres
• l'IA générative pour les analystes
• la gouvernance du risque de modèle, la discipline que le secteur exige avant tout

Au-delà des opérations internes, elle lit les marchés financiers comme le laboratoire le plus impitoyable pour des agents autonomes : les familles d'agents de trading, pourquoi un backtest diffère du trading réel et les risques systémiques (procyclicité, coupe-circuits) que régulent désormais les autorités.

Le biais est un poison et il est inévitable. Abordez les défis éthiques et techniques du biais dans l'IA avec une taxonomie en six parties :

• ingénierie
• échantillonnage
• algorithme
• culture
• mesure
• exclusion

Le verdict honnête : détecter un biais est facile ; l'éliminer est impossible. L'équité n'est pas mathématique ; c'est une question éthique. Vous choisissez votre biais en conscience, puis vous le mesurez.

Montrez-moi vos données et je vous dirai votre IA. De la programmation à l'apprentissage automatique, puis à l'IA générative et aux agents : quatre ères en une ligne et sous elles une seule idée, rassembler vos X et vos Y puis deviner la fonction F. Les algorithmes apprennent à partir des données selon trois familles :

• apprentissage non supervisé
• apprentissage supervisé
• apprentissage par renforcement

Cette conférence enseigne le sur-apprentissage et le sous-apprentissage par l'analogie de l'étudiant (appris par cœur, paresseux ou vraiment compris) et déploie toute la Palette de l'IA, sans jargon, pour que les managers parlent la même langue que leurs équipes data, en reliant chaque méthode aux données dont vous disposez déjà dans votre entreprise.

Retracez le passage des premiers systèmes artisanaux à base de règles aux agents d'IA autonomes d'aujourd'hui capables de prendre des décisions indépendantes, à travers quatre âges :

• caractéristiques faites main
• apprentissage profond
• modèles de fondation
• agents

Une conférence sectorielle fondée sur des cas réels et sourcés :

• les moteurs de recommandation qui façonnent l'attention
• le churn des abonnés prédit par l'analyse de survie pour agir avant le départ
• l'optimisation des revenus de catalogue avec Ircam Amplify
• la promotion et le montage algorithmiques pour les créateurs via Jellysmack
• l'IA musicale, des pistes séparées à la partition

Où s'arrête l'outil, où commence l'artiste ? La GenAI rejoue aujourd'hui, pour les créateurs, la question que la photographie (du daguerréotype au Polaroid) a posée à la peinture.

L'IA est partout. Comment la mesurer avec bon sens dans nos cas d'usage ?

• produits
• outils
• gestion
• santé
• divertissement
• art
• vie publique

Si l'IA génère une valeur mesurable, comment faire sourire les clients ?

Dans les mers du Sud, des gens qui avaient vu atterrir les avions de ravitaillement ont rebâti l'aérodrome de mémoire : des pistes, des feux le long des pistes, un contrôleur dans une hutte de bois avec des écouteurs en bois et des antennes de bambou. Dans son discours de remise des diplômes de 1974, Feynman en disait : ils font tout comme il faut, la forme est parfaite et aucun avion n'atterrit. Il a appelé Cargo Cult Science la recherche qui fonctionne ainsi. Notre domaine est devenu très bon aux formes.

• Banc d'essai, tableau de bord, suite d'évaluation, test A/B, fiche de modèle : instrument ou décor et un seul test les sépare, une décision aurait-elle pu basculer dans l'autre sens ?
• Se pencher en arrière, son nom pour l'intégrité scientifique, est une procédure à cinq sorties : signaler ce qui pourrait invalider le résultat, nommer les autres explications, montrer ce qu'on a éliminé et comment, donner les détails qui jettent le doute, publier les faits qui contredisent.
• La dérive que personne n'a voulue : les mesures de la charge de l'électron ont rampé vers la valeur fausse de Millikan, parce qu'on déboguait les résultats qui s'en écartaient et pas ceux qui s'en rapprochaient.
• Les rats que personne n'a cités : l'expérience de 1937 qui a trouvé les conditions sous lesquelles une expérience sur les rats veut dire quelque chose a été ignorée, car elle n'a rien découvert sur les rats, seulement tout ce qu'il faut contrôler pour découvrir quelque chose sur les rats.
• Le premier principe : il ne faut pas se tromper soi-même, et l'on est la personne la plus facile à tromper. Il termine non sur la vertu personnelle mais sur l'emploi, en souhaitant à son auditoire la liberté de garder son intégrité sans que sa position dépende de la perdre.

Lire le texte source : « Cargo Cult Science », discours de Caltech, 1974.

Deuxième idée forte et c'est la plus enthousiasmante. Devant des machines qui résolvent des problèmes mathématiques très difficiles, il concède la performance puis la déplace : une telle intelligence est impossible à dissocier du collectif humain qui a fourni les données, collectif que le système est lui-même devenu. La machine n'a pas remplacé le mathématicien, elle se tient sur eux tous, y compris celui qui la regarde travailler. De là il refuse la lamentation : nous sommes sept milliards, la technologie crée des ressources, la logistique qui atteint chaque personne dans chaque ville tourne déjà à l'apprentissage automatique et la frontière n'est pas l'imitation mais des systèmes qui s'appuient sur les relations humaines et les renforcent. Les enfants veulent un professeur de chair et d'os, les patients ne veulent pas qu'un ordinateur décide de tout et chacun vit une vie qui n'est qu'à lui, d'où viennent le point de vue et la vulnérabilité. Il dit aussi, dans une préface écrite de sa main, pourquoi il refuse l'apocalypse comme discours dominant : les dégâts qu'elle fait aux jeunes gens qui doivent vivre dedans. L'entretien, dans la traduction anglaise qu'il a préfacée.

Équipe A : huit experts du métier, dix-huit mois, à écrire ce qu'ils savent pour que la machine l'applique. Équipe B : le même argent dépensé en données, en recherche, en calcul loué. Sur soixante ans, l'équipe B a gagné plus souvent qu'à son tour. D'où la question à poser avant de financer quoi que ce soit : que fait ce système avec dix fois plus de calcul ? S'il ne fait que tourner plus vite, vous avez acheté un actif fixe.

Ce n'est pas une opinion de passage. Sutton a reçu le prix Turing 2024 avec Andrew Barto, pour avoir posé les fondations conceptuelles et algorithmiques de l'apprentissage par renforcement.

Puis vient le désaccord, qui est le cœur de ce portrait. Sa leçon décrit la frontière de la recherche, pas une entreprise avec quatre mille lignes dans un tableau. Un laboratoire qui vise un record peut attendre que le calcul double. Une direction qui dispose de quatre mille lignes et d'un trimestre ne le peut pas. Chez elle, la structure écrite à la main gagne encore. Le portrait dit où : quand la donnée manque, quand un exemple coûte cher, quand la symétrie du problème est connue. Deep Blue, l'exemple phare de Sutton, portait huit mille règles d'évaluation écrites à la main.

La leçon amère est vraie à l'échelle d'un domaine. Votre budget, lui, est à l'échelle d'un trimestre.

Lire le texte source : « The Bitter Lesson », Rich Sutton, 13 mars 2019.

Un physicien veut automatiser des expériences complexes, dont certaines en vol parabolique à gravité zéro et l'outil commercial de référence des sciences appliquées le lâche régulièrement. Il passe à la neuro-imagerie et constate une absurdité : le laboratoire paie plus cher ses licences logicielles que ses ordinateurs. Alors il décide de faire mieux et gratuit. Le métier de data scientist, celui pour lequel on recrute, est sorti de cette décision autant que d'un article scientifique.

• « Tu me glorifies trop », a-t-il répondu publiquement quand cette histoire a été racontée. La bibliothèque est une œuvre collective. Une salle qui l'utilise tous les jours n'a presque jamais entendu le nom de ceux qui l'entretiennent.
• Une interface est une pédagogie. Le plus grand gain de qualité de l'apprentissage automatique appliqué n'a pas été un algorithme, mais une convention qui a rendu la procédure correcte la plus facile à taper.
• Essayez d'abord le modèle ennuyeux. Sur quarante-cinq jeux de données tabulaires, la recherche d'hyperparamètres comptée dans le budget et non discrètement dehors, les arbres restaient l'état de l'art sur des tailles moyennes.
• Le travail, c'est l'assemblage : joindre, encoder et réparer des tables dont les noms sont orthographiés de quatre façons, voilà le projet ; le modèle en est les dix derniers pour cent.
• Les bancs d'essai sont plus bruités que la décision qu'ils éclairent. Un écart inférieur à la dispersion entre découpages et graines aléatoires n'est pas un résultat.
• Qui paie les communs ? Une bibliothèque dont tout le monde dépend et à qui personne ne doit rien est un fournisseur critique sans contrat. C'est la continuité, pas la vertu, qui parle à une direction financière.

Transparence : j'ai eu le privilège de travailler avec probabl.ai
L'article source sur les données tabulaires, 2022.

« Nous avons évalué l'équité de notre modèle » passe en comité sans que personne pose les deux questions qui décident si la phrase veut dire quelque chose : quel préjudice, pour quels groupes et qui entretient l'outil. Ce portrait suit une mainteneuse de Fairlearn, la bibliothèque libre sur laquelle reposent beaucoup de ces promesses et tire son enseignement des choix du projet lui-même.

• Des préjudices, pas des biais. La documentation évite délibérément les mots biais et débiaisage et définit l'iniquité par son effet sur des personnes plutôt que par ses causes ou par une intention.
• Quatre préjudices, deux mesurables. Allocation, qualité de service, stéréotypage, effacement et un manuel qui dit lesquels la bibliothèque couvre honnêtement.
• Un tableau, pas un score. L'équité de groupe, c'est votre métrique calculée groupe par groupe, l'écart rendu visible et la décision laissée à qui la signe.
• L'équité est une grandeur inobservable. L'essentiel du préjudice entre au moment où le problème réel est traduit en tâche d'apprentissage, bien avant le modèle.
• La part que personne ne met en diapositive. Cinquante-deux de ses soixante et une contributions fusionnées relèvent de la maintenance, de la documentation, de l'intégration continue et des corrections et la bibliothèque est téléchargée environ cent mille fois par mois par des usagers que ses mainteneurs ne peuvent pas identifier, car les entreprises refusent de parler de leur usage des outils d'équité.

« Nous n'avons pas gardé les données, nous avons seulement gardé le modèle » se dit de bonne foi en comité. C'est faux : un modèle entraîné emporte des morceaux de ses données d'entraînement et d'autant plus fidèlement dans les régions clairsemées, là où vit la personne atypique. C'est cette observation qui lui a fait déplacer toute une carrière de l'éthique vers l'ingénierie de la vie privée.

• Le demi-tour, sur la même scène à six ans d'écart. En 2017 elle ouvrait une conférence sur le débiaisage des vecteurs de mots, convaincue que la prise de conscience et les correctifs techniques suffiraient ; en 2023 elle y revient pour dire que le débiaisage n'a jamais démontré d'effet significatif et que le problème commence avant l'algorithme.
• La pseudonymisation n'est pas l'anonymisation. Utile, liable par construction et dangereuse surtout parce qu'elle crée un faux sentiment de sécurité qui pousse les équipes à diffuser les données plus largement.
• La gouvernance avant la technologie : documentation, découverte des données non documentées, traçabilité des lignages et versionnement, l'instrument qui permet de prouver ce qui a entraîné un modèle et ce qu'une demande d'effacement a réellement retiré.
• Quatre ponts, quatre péages : confidentialité différentielle, apprentissage fédéré, calcul chiffré, données synthétiques. Chacun achète quelque chose de précis et coûte quelque chose de précis. Aucun n'est privé par la seule vertu de son nom.
• La vie privée intégrée par défaut, pas un luxe qu'on paie, avec le consentement comme surface produit : garder les données en local, fédérer, anonymiser ceci et pas cela.