Pendant trente ans, des chercheurs en vision par ordinateur ont dessiné à la main ce que la machine devait chercher dans une image : des contours, des coins, des histogrammes d'orientation. Puis des réseaux entraînés sur plus d'images et plus de calcul ont appris ces mêmes motifs tout seuls et les ont battus. Richard Sutton a nommé ce schéma en mille cent mots sur son propre site, en 2019 : la leçon amère. Amère parce que les soixante ans qu'elle résume donnent tort au savoir-faire patiemment encodé et raison à la puissance de calcul.
Équipe A : huit experts du métier, dix-huit mois, à écrire ce qu'ils savent pour que la machine l'applique. Équipe B : le même argent dépensé en données, en recherche, en calcul loué. Sur soixante ans, l'équipe B a gagné plus souvent qu'à son tour. D'où la question à poser avant de financer quoi que ce soit : que fait ce système avec dix fois plus de calcul ? S'il ne fait que tourner plus vite, vous avez acheté un actif fixe.
Ce n'est pas une opinion de passage. Sutton a reçu le prix Turing 2024 avec Andrew Barto, pour avoir posé les fondations conceptuelles et algorithmiques de l'apprentissage par renforcement.
Puis vient le désaccord, qui est le cœur de ce portrait. Sa leçon décrit la frontière de la recherche, pas une entreprise avec quatre mille lignes dans un tableau. Un laboratoire qui vise un record peut attendre que le calcul double. Une direction qui dispose de quatre mille lignes et d'un trimestre ne le peut pas. Chez elle, la structure écrite à la main gagne encore. Le portrait dit où : quand la donnée manque, quand un exemple coûte cher, quand la symétrie du problème est connue. Deep Blue, l'exemple phare de Sutton, portait huit mille règles d'évaluation écrites à la main.
La leçon amère est vraie à l'échelle d'un domaine. Votre budget, lui, est à l'échelle d'un trimestre.
Lire le texte source : « The Bitter Lesson », Rich Sutton, 13 mars 2019.