EPISODES

Les réseaux de neurones, la longue patience

Fondamentaux

Formation

De McCulloch et Pitts à Hinton, LeCun et Bengio, découvrez comment une idée jugée limitée a survécu aux hivers de l’IA en attendant données, calcul et bon moment historique.
Comprendre l'IA d'aujourd'hui commence par savoir d'où elle vient. Un voyage de 1936 à ChatGPT.
épisode #5

Voir tous les épisodes de

Imaginez la scène. Vous êtes chercheur, vous tenez à une idée, vous y croyez vraiment… mais autour de vous, presque tout le monde pense que ça ne mène nulle part. On vous écoute poliment, puis on passe à autre chose. Et pourtant, vous continuez à creuser.

C’est exactement ce qui s’est passé avec les réseaux de neurones artificiels. Et c’est là qu’entrent en jeu trois noms que vous avez peut-être déjà croisés : Hinton, LeCun et Bengio. Pendant des années, ils ont parié sur une chose simple, presque têtue. Peut-être que l’idée n’était pas mauvaise. Peut-être que c’étaient les conditions autour d’elle qui n’étaient pas encore réunies.

Pour comprendre ça, on revient au tout début de l’histoire. Direction 1943. Deux chercheurs, McCulloch et Pitts, proposent un premier modèle de neurone artificiel. D’où vient cette idée ? D’une analogie avec le cerveau. Mais attention, ils ne cherchent pas à copier toute sa complexité. Ils font quelque chose de plus modeste, mais de très malin.

Ils imaginent des unités très simples. Chacune, prise seule, ne fait pas grand-chose. Mais si on les relie entre elles, si on les organise en réseau, alors, tout à coup, des comportements plus complexes apparaissent. Et là, on a le point de départ des réseaux de neurones.

Quelques années plus tard, en 1957, un autre chercheur, Rosenblatt, présente le perceptron. Vous pouvez le voir comme un système qui apprend à partir d’exemples. Et ça, à l’époque, c’est déjà un petit séisme. Pourquoi ? Parce qu’il ne suit pas seulement des règles fixées à l’avance. Il ajuste son fonctionnement selon ce qu’on lui montre. Il apprend.

À ce moment-là, l’idée semble très prometteuse. On se dit : ça y est, on tient quelque chose. Mais cette promesse va vite se heurter à un mur. En 1969, Minsky met en évidence des limites mathématiques importantes du perceptron. Le message qui passe alors dans une grande partie du domaine est assez brutal. Si ce type de modèle a de telles limites, alors la piste semble fragile, voire bancale.

Et là, le champ s’effondre. L’intérêt baisse fortement. Les réseaux de neurones ne disparaissent pas complètement, mais ils deviennent marginaux, presque mis de côté. On pourrait croire que l’histoire s’arrête là. Mais non, justement. C’est là que ça devient intéressant.

À ce stade, il faut bien saisir un point. Le problème ne vient pas seulement de la confiance qu’on accorde ou non à l’idée. Il manque aussi quelque chose de plus concret : les moyens de la faire grandir. Pas assez de puissance de calcul. Pas assez de données. Bref, l’idée existe, mais l’infrastructure n’est pas au rendez-vous.

Puis, dans les années 1980, une nouvelle étape apparaît. Avant de parler de méthode, imaginez une cuisine. Un plat sort raté du four. Au lieu de juste dire : “c’est mauvais”, un bon chef remonte la chaîne. À quel moment ça a dérapé ? Quelle étape a posé problème ? Il regarde chaque geste, puis corrige là où l’erreur s’est produite.

La rétropropagation du gradient fonctionne un peu dans ce même esprit. Elle permet à un réseau de corriger ses erreurs couche par couche. On ne se contente plus de juger le résultat final. On remonte à l’intérieur du modèle, on ajuste, on affine. Et grâce à ça, l’apprentissage profond devient possible.

Mais là encore, rien ne bascule du jour au lendemain. Malgré cette avancée, les réseaux de neurones restent longtemps en marge. C’est précisément dans ce contexte que Hinton, LeCun et Bengio se distinguent. Pendant les fameux “hivers de l’IA”, quand le domaine attire moins d’attention, moins de financements, eux continuent. Ils tiennent la ligne.

Pourquoi ? Pas seulement par entêtement personnel. Leur patience repose sur une conviction très claire. Si les données deviennent plus nombreuses, si la puissance de calcul augmente, alors ces modèles pourront enfin montrer ce qu’ils savent faire. Autrement dit : l’idée est là. Il manque encore le moment historique qui lui convient.

Et ce moment finit par arriver. Le retour des réseaux de neurones ne vient pas d’une idée entièrement nouvelle sortie de nulle part. Il vient de la rencontre entre une vieille idée, de meilleures méthodes d’apprentissage, plus de données et plus de puissance de calcul. En 2018, le prix Turing remis à Hinton, LeCun et Bengio vient reconnaître ce long chemin.

Alors, qu’est-ce que cette histoire nous raconte, au fond ? Quelque chose de très simple, mais facile à oublier. En intelligence artificielle, une idée juste peut rester dormante pendant des décennies. Non pas parce qu’elle est vide, mais parce qu’elle attend encore l’infrastructure, les moyens techniques, et le bon moment historique pour exister pleinement.

Frais et marquants

Visuel pédagogique sur l’intelligence artificielle et les armes autonomes illustrant une décision critique partagée entre un humain et une machine pour interroger le contrôle humain réel
Illustration pédagogique montrant une intelligence artificielle reliée à de multiples figures humaines et à des flux de données pour expliquer que chaque réponse dépend d’un travail humain et de ressources matérielles
Illustration d’un travailleur et d’une interface d’intelligence artificielle face à face, symbolisant l’évaluation des effets de l’IA sur l’autonomie, le jugement et la créativité au travail.
New
Une
Le travail a-t-il encore un sens ?

Éthique

Formation

Illustration pédagogique montrant un cerveau humain face à des flux de données rapides symbolisant l’intelligence artificielle pour questionner la vitesse numérique et la réflexion lente.
New
Une
Ce que la vitesse nous vole

Éthique

Formation

Illustration d’un podcast pédagogique sur l’IA et la désinformation, montrant des échanges d’informations numériques et la question de la confiance dans le débat public.
Visuel pédagogique sur le transhumanisme montrant une silhouette humaine partiellement augmentée par des éléments technologiques, pour expliquer la distinction avec le posthumanisme et les enjeux d’humain jugé plus ou moins utile
New
Une
Le rêve de l’humain augmenté

Éthique

Formation

Tous les podcasts en illimité

pour 19,90€ 9,90 € le premier mois

Déja abonné ?