Cybernétique
Le terme cybernétique a l'âge de vos grands-parents, et pourtant il a refait surface maladroitement pour qualifier de cybernétiques les questions relatives à l'intelligence artificielle. Heureusement, cela n'a pas duré, car la cybernétique est presque l'inverse de l'apprentissage automatique. La cybernétique, au début des années 1950, est une ingénierie de systèmes complexes : elle étudie la manière dont circule l'information et comment l'information conditionne la réaction. Dans un certain sens, tout comme l'intelligence artificielle, elle s'inspire de l'humain biologique, mais avec une conception particulière : le monde est une gigantesque somme d'informations, nos comportements sont conditionnés par ces informations, et notre cognition est un traitement de ces informations selon un schéma logique qui nous fait réagir en fonction d'un état du monde perçu.
Une machine cybernétique reçoit donc en entrée des informations et un programme (un algorithme) qui lui dit comment traiter l'information, agit sur le monde et en retour renvoie de l'information (on parle de boucle de rétroaction). À partir de là, on s'est concentré sur les systèmes experts, c'est-à-dire la programmation de machines pour traiter divers types d'informations, le plus souvent spécialisées (par exemple, un système de réservation de vols aériens pour une compagnie de transport). C'est à cette époque que les langages de haut niveau sont nés (comme Lisp ou Cobol), car peu importe la machine et ses caractéristiques, l'essentiel est de savoir quoi programmer pour qu'elle sorte un résultat : la machine n'apprend rien, c'est une suite de mécanismes qu'on configure à l'avance.
Ces systèmes experts ont dominé jusqu'aux années 2000. C'est à cette époque qu'a eu lieu une « renaissance » de l'apprentissage automatique, qui a bénéficié d'Internet et des gigantesques montagnes de données propres à entraîner des modèles comme jamais auparavant, avec du matériel de très haute performance.