Neurones

Dans le domaine de l'IA, il est souvent question de neurones artificiels. Cela peut sembler déroutant, mais l'histoire des sciences nous apprend l'existence d'une grande proximité entre les neurosciences et l'informatique.

Parler de neurones artificiels revient à entretenir une analogie avec le cerveau humain mais il s'agit davantage d'une inspiration libre que d'une reproduction fidèle de sa complexité et de sa nature. Dans l'histoire des technologies d'apprentissage automatique, les chercheurs n'ont jamais prétendu recréer un cerveau humain. Cependant, ils se sont inspirés de la biologie, notamment des neurones et de leurs connexions synaptiques. Dans notre cerveau, les neurones sont des cellules interconnectées par des synapses, qui transmettent des informations, ou signaux, au système nerveux. Certains ont donc pensé que toutes nos interactions avec le monde pouvaient être réduites à des flux d'information. En modélisant un tel système, on peut dire que les neurones reçoivent des signaux excitateurs ou inhibiteurs. Cette logique, bien que simpliste en apparence, devient très efficace grâce à la complexité du système, représentée par le nombre de connexions possibles.

En 1943, Warren McCulloch et Walter Pitts publient un article fondateur intitulé « A logical calculus of the ideas immanent in nervous activity », dans lequel ils présentent un modèle de formalisation logique du système neuronal biologique. Dans ce modèle, les « neurones » sont des fonctions qui reçoivent des entrées (des signaux excitateurs ou inhibiteurs), les agrègent avec un coefficient de « poids » (\(+1\) ou \(-1\)), et retournent une sortie \(y\) qui vaut soit \(+1\) soit \(0\), en fonction (\(f\)) du résultat de l'addition de ces signaux (le calcul de la somme pondérée des entrées). Si \(f\geq0\) alors il y a activation (\(y=+1\)), sinon il n'y a pas d'activation (\(y=0\))). On note que ce modèle est surtout binaire (on peut dire ici booléen) adapté à la résolution de fonctions logiques (et, ou / vrai, faux).

Les modèles neuronaux actuels sont d'autant plus puissants qu'on peut multiplier les « couches » de ces fonctions « neuronales » et multiplier les entrées. Par ailleurs les modèles actuels ne se contentent pas de simples activations ou désactivations neuronales, la question est plutôt de savoir à quel point les neurones artificiels sont activés ou non-activés. Ainsi, on se concentre surtout sur la pondération, c'est-à-dire les paramètres qui permettent d'affiner la pertinence du modèle d'apprentissage.