Le cerveau et lordinateur

Quand Pascal proposa sa machine arithmtique en 1645, il crivait Une

machine qui calcule arrive des rsultats qui sont plus proches de la pense
quaucune chose faite par un animal. Mais ceci ne fait rien pour nous
permettre de dire quelle a une volont comme nous le disons des animaux.
(Pense 262). Cette distance que Pascal met entre la machine et lhomme est
analogue celle quil met entre lesprit et le corps. Mais Thomas Hobbes (1588-
1679) - dont les ratiocinations arithmtiques et gomtriques lui valurent les
remarques acerbes de Wallis, Professeur Oxford - vit dans la machine
arithmtique la preuve du bien fond de ses vues sur lesprit humain. Ainsi
dcrivit-il les pices de la machine faites de cuivre et de fer comme investies
des fonctions du cerveau et instruites de ses fonctions les plus dlicates car
tout, pour lui, se rduisait des additions ou des soustractions. Le cerveau
ntait quun champ de calcul et la raison elle-mme se rduisait calculer. De
faon symtrique, dans son ouvrage Le Lviathan (1651), Hobbes donne une
vie aux automates. Car, crit-il lesprit ne sera rien dautre que le
mouvement de certaines parties dun corps organique. . Pour lui seul ce qui
est quantifiable existait rellement. Dans la mme veine, Hume (1711-1776)
prtendait que la comprhension du Monde ne pouvait se faire sans une
utilisation de la mcanique qui tait le cur mme de la ralit. Pourtant Saint
Thomas dAquin (1228-1274) faisait observer bien avant lui que si nos sens sont
l pour capter des objets qui peuvent avoir des proprits mcaniques, cette
seule impression dobjets sensibles nest pas suffisante pour puiser lactivit
de lintelligence qui les classifiera et leur donnera des noms en les
conceptualisantComme on le sait, pour le Docteur anglique, le sommet de
lintelligence se manifeste dans lanalogie qui permet de dployer une
thologie qui sappuie sur la mtaphysique de ltre.

La question de lesprit et de la matire

Leibniz prsenta en 1672 sa version dun calculateur plus performant

encore que celui de Pascal. A cette occasion il discuta la fameuse question de
Locke (1632-1704) savoir est-ce que Dieu pouvait donner la matire la
capacit de penser sans lui donner une me ? . Leibniz dans son Essai
concernant lentendement humain affirme qu il est certain que la matire est
aussi peu capable de produire mcaniquement des sensations que de produire
de la raison. Si certains savanaient dire le contraire cest quils avaient des

1
ides confuses sur la pense et la matire . Mais Julien Offray de la Mettrie
dans son ouvrage Lhomme machine affirme que le seul problme est
simplement de pousser assez loin la complexit de lorganisation de la machine
pour que la pense surgisse. La physique de lpoque glorifiait la mcanique de
Newton et tout tait lu dans cette perspective rductionniste. Ainsi crit-il la
pense est si peu incompatible avec la matire organise quelle semble tre
une de ses proprits comme lest llectricit, la facult de se mouvoir,
limpntrabilit, lextension . Face lui et dHolbach, qui dfendait un
point de vue analogue dans son Systme de la nature, le mathmaticien Euler
(1707-1783) dans une de ses lettres la princesse dAnhalt-Dessau du 29
novembre 1760, faisait observer si intelligente que puisse tre la construction
dune machine, les flicitations doivent tre adresses celui qui la conue. La
machine elle-mme na pas de raison dtre loue. Cest lingnieur qui est
responsable dune machine qui est dfectueuse et mal agence. La machine est
totalement innocente de ces dysfonctionnements ; les corps en eux-mmes ne
sont responsables de rien ; aucune flicitation, aucune punition ne sont
adquates ; tous les changements et tous les mouvements produits dans les
machines ne sont que les consquences ncessaires de leur construction .
Babbage (1792-1871), qui est considr comme le pre du concept
dordinateur, propose, en 1840, une machine, lanalytical engine, qui utilise la
notion de boucle ( feed-back ) essentielle dans les ordinateurs
contemporains pour assurer leur capacit ditration de calculs. Sa machine
devait permettre ainsi des calculs qui seraient impossibles faire la main et
qui, sans les rsultats obtenus, freineraient la science. Il disait Nous pouvons
dire trs justement que lAnalytical Engine ralise les tissages algbriques tout
comme la machine de Jacquard tisse fleurs et feuillages. Il tait persuad
quun jour les calculateurs mcaniques dirigeraient les scientifiques dans leur
recherche. La situation actuelle lui donne raison et, lpoque, Lady Lovelace,
la fille du pote Byron, stait bien aperue de la porte de la dcouverte de
Babbage, elle qui ne cessa de lencourager malgr ses dtracteurs. Mais
Babbage affirmait toutefois que la machine nest pas un tre pensant mais
seulement un automate qui agit selon les lois qui lui ont t imposes .

La naissance de lintelligence artificielle

Huxley, un peu plus tard (1874) dans son essai Sur lhypothse que les
animaux sont des automates affirme que la pense est autant une fonction
de la matire que le mouvement lest et nous arriverons tt ou tard un
quivalent mcanique de la conscience comme nous sommes arrivs un
quivalent mcanique de la chaleur. Il insistait dj sur ce point dans son

2
tude (1870) sur Descartes en observant que les faits de conscience sont
pratiquement interprtables grce aux seules formules de la physique ! Il
nest pas tonnant que le concept dintelligence artificielle ait pu exister bien
que nous soyons en face dun vritable oxymore ! Le lien smantique entre
intelligence et artifice est clair dans le contexte dvelopp par Huxley. Il serait
ainsi possible artificiellement de faire surgir lintelligence. Laffirmation de
Turing 1 dans son livre Computing machinery and intelligence, consiste en ce
que, sil peut se faire un instant donn quil y ait des hommes plus intelligents
que des machines, la machine finira toujours par dpasser leurs capacits. La
machine de Turing est le prototype dun ordinateur surpuissant: elle est
constitue dun ruban infini et dune tte de lecture qui se dplace le long du
ruban dcoup en cases. Elle opre de la manire suivante pour simplifier si
vous tes dans ltat 12 rpertori par la mmoire de la machine, et si vous
lisez la lettre A sur la case o la tte de lecture est arrte, alors vous devez
changer A en B, passer dans ltat 34 et dplacer la tte de lecture vers la
droite puis recommencer . Cest, de fait, un processus algorithmique gnral.
Il faut savoir quAlan Turing a t celui qui a t capable de casser le code
secret allemand donnant la position des sous-marins lors de la dernire guerre
mondiale
La vritable question est videmment de savoir si les deux intelligences
dont on parle sont les mmes. Une indication est donne par le thorme de
Gdel qui met mal tout systme bas sur larithmtique. Ce rsultat qui a
boulevers le monde mathmatique au point quAndr Weil, le frre de la
grande philosophe, pouvait dire Dieu nous a donn larithmtique mais le
diable nous empche de montrer sa cohrence . En effet, il est impossible de
prouver que la mathmatique est dpourvue de contradiction : on doit faire un
vritable acte de foi pour dire continuons faire des mathmatiques puisque
cela marche . La proposition les mathmatiques sont non contradictoires en
leur sein est une proposition indcidable ! La vrit et la dmonstrabilit ne
sont pas du mme ordre nous dit GdelCertains pourraient toutefois esprer
que ce thorme ne couvre pas tout le champ dinvestigation offert par des
machines mais, comme elles sont gouvernes par des rgles arithmtiques bien
prcises, la consistance de leurs rsultats sort de leur champ justement cause
de ce mme thorme ! Le fait que lesprit ne peut driver une preuve formelle

1
(1912-1941) apporte ds 1936 les fondements abstraits du concept dordinateur. Cette
contribution sera reconnue par Von Neumann et permettra en particulier la distinction entre
software (les programmes) et hardware (les machines). Turing rsout, en passant, un problme pos
par Hilbert en 1900 en montrant quil existe des problmes mathmatiques pour lesquels il ny pas
dalgorithme de rsolution.

3
de la consistance dun systme formel partir du systme lui-mme est, de
fait, la preuve que lesprit humain dpend de donnes informelles et intuitives
qui chappent toute possibilit de lintelligence artificielle.
Le thorme de Gdel dans sa fine pointe fait aussi la distinction entre des
objets inanims et des tres pensants car quand une machine est suppose
prouver qu une formule nest pas prouvable dans un systme donn , il est
prsuppos que la machine sait quelle sait ce que cela veut dire et donc quelle
sait quelle le sait puis quelle sait quelle sait quelle le sait et ainsi de suite
linfini ! Le concept de conscience porte ainsi en lui-mme le concept dinfini
qui est, par construction, inaccessible toute machine ft-elle gave de
transistors ou de puces lectroniques ! Le mathmaticien Hilbert remarquait
Linfini au contraire de tout autre problme a de tout temps mu
profondment lesprit de des hommes. Linfini en contraste avec tout autre ide,
a eu une profonde, stimulante influence sur lesprit. 2 . On sait que la
mathmatique est quelque fois prsente comme la science de linfini
(H.Weyl) et la philosophe Hannah Arendt disait des mathmaticiens quils
taient les veilleurs de linfini .
Nen dplaise Hobbes, laddition et la multiplication npuise pas cette
science et donc pas la raison qui la conue. Largument suivant lequel la
complexification des ordinateurs (la fameuse loi de Moore qui prvoit un
doublement des capacits des plus gros ordinateurs tous les ans) serait la
solution pour que les machines finissent tt ou tard par penser est donc mis en
dfaut ds le dpart. Une prise de conscience de la machine ne peut tre
inhrente son mcanisme. Ni lesprit ni le libre arbitre ne sont rductibles
un processus numrique si complexe soit-il. Le fameux thorme de Gdel
voqu plus haut sur limpossibilit de prouver la cohrence de la construction
mathmatique est l pour nous donner un premier argument dans ce contexte.

Lacte exprimental et la machine

On sait, de plus, que lacte dexprience et le comportement font partie

de deux domaines diffrents. Les humains ont des expriences mentales alors
que la machine va faire comme si elle avait de telles expriences : lacte
dexprience ne peut tre logiquement introduit dans une machine. On ne peut
donc qutre sceptique quand on lit sous la plume de Turing dans Computing
machinery and intelligence (1950) qu la fin du sicle, lusage des mots et
lopinion publique duque seront tellement transforms quon pourra parler de
machines pensantes sans craindre dtre contredit. . Le problme est de savoir

2
Uber das Unendliche, Mathematische Annalen , 1935.
4
si un ordinateur serait capable de dtecter si une autre machine est un humain
ou pas ! Lexprience radicale de ltre ne peut tre altre par des jeux de
mots !
Pourtant le nec plus ultra de lintelligibilit est maintenant associ au
fameux feedback . En effet, le cerveau a une capacit de bouclage pour
replonger dans ses donnes antrieures et permettre lindividu dagir au
mieux ; or lordinateur fait de mme au travers des programmes qui lui sont
installs mais, videmment, sans prendre de dcision au sens strict. Ici, la
confusion entre mmoire et rminiscence est caricaturale : les animaux ont de
la mmoire mais point de rminiscence qui ncessite une conscience du pass
et lactivation dune recherche intellectuelle. Et pourtant, pour Turing, ce
jeu de rtroaction permettra un jour un ordinateur de dpasser les
humains ! On parle mme de priodes dapprentissage des ordinateurs, de
gratification quand ils amliorent leurs performances, oubliant que tout ce
quil y a dans un ordinateur y a t mis par des humains. La gratification nest
autre que loptimisation de processus dfinis par itration ! Ce fut le cas dans la
confrontation entre lordinateur Big Blue et le champion des checs Garry
Kasparov o la machine tait en permanence optimise en fonction des coups
de son adversaire. Lutilisation abusive dun vocabulaire normalement dvolu
des individus dous de conscience et de libre arbitre ne laisse pas dtonner le
penseur qui regarde les spcialistes de lintelligence artificielle souhaiter tre
un jour dpasss par des robots La soi-disant autonomie des gros ordinateurs
est due limpossibilit matrielle de vrifier tous leurs microcircuits
lectroniques mis en uvre. Il y a une part dimparable dans la complexit dun
mcanisme comme, par exemple, dans le cas dun avion qui dans des
circonstances particulires peut se mettre piquer du nez sans que lon
comprenne pourquoi.

Le cerveau cbl ou lordinateur pensant ?

Lanalogie entre le cerveau et lordinateur se prolonge par le fait

mme que lactivit du cerveau apparat au travers dinstruments de mesure
comme essentiellement lectrique. Le transport le long des axones jusquaux
synapses se fait par un transfert de charges ioniques par un mcanisme
extrmement astucieux mais qui na rien voir avec un flux dlectrons le long
dun cble. En fait, le dclenchement des substances qui permettent la
transmission dun axone lautre par le moyen des synapses reste un mystre.
Les synapses semblent jouer un rle beaucoup plus complexe que de simples
terminaux daxones. Les neurones qui sont constitus par les axones et les
synapses sont la bagatelle de dix milliards. Mais ce sont les interconnexions qui

5
sont importantes et le compte devient alors plus dun million de fois le nombre
de neurones ! Si certains sont dtriors par le fait dune intervention
chirurgicale par exemple, ce sont dautres neurones qui prennent la relve. On
sait que ltre humain perd chaque jour des milliers de cellules associes ses
neurones et pourtant les consquences ne sont pas aussi dramatiques que la
dtrioration dune puce dans un ordinateur ! La complexit de cette
transmission fait dire Young dans A Model of the Brain (Oxford 1964) que le
cerveau ressemble plus une soupe chimique qu un cblage dordinateur !
De fait, limagerie mdicale a mis en vidence cette activit crbrale et a
confirm lexistence de zones sensibles suivant les activits de lindividu :
parole (langue trangre ou maternelle), gestuelle, odorat, oue, sons ou mme
calcul mental. Mais aucun spcialiste ne peut dire pourquoi le cerveau est
capable de faire laddition 2+3 = 5Et pourtant comme le faisait observer Von
Neumann, le pre de linformatique, dans son ouvrage The computer and the
brain (1958), le systme nerveux fonctionne avec un niveau trs faible de
prcision. Ce fait doit tre mis en lumire sans arrt car aucun ordinateur ne
saurait oprer avec fiabilit et avec un degr de signification ayant un niveau
aussi faible de prcision et le systme nerveux semble utiliser un systme de
notations radicalement diffrent de celui que nous utilisons familirement dans
larithmtique ou les mathmatiques .
L sarrte lanalogie car le cerveau est un corps mou qui est en lien
avec lesprit, lui-mme en lien avec lintelligence et la volont. Mais comment
les sensations sorganisent-elles ? Comment les sentiments prennent-ils
naissance ? Cela reste un pur mystre. Aucun processus ne permet ce jour
dexpliquer comment une onde lectromagntique aboutit la sensation de
couleur, de chaud, de froid, de crainte, de souffrance

On voit combien lanalogie de lordinateur comme outil de pense

est susceptible dune remise en cause. La grande question du lien entre lesprit
et le corps mais aussi de la matire elle-mme reste ouverte, sans parler de
lme humaine qui assure la cohrence entre les deux. Mais videmment lme
qui in-forme tout tre et assure la cohrence entre lesprit et le corps est un
concept mtaphysique qui passe pour surann voir grotesque alors quil est le
cur de la comprhension de la ralit humaine. Platon dans le Gorgias
montre que cest tout lart du pilote du navire de sauver les mes de ses
matelots quand son vaisseau traverse des eaux dangereuses (S.O.S. = Save Our
Souls !) : nos philosophes devraient faire de mme quand lintelligence
humaine est aussi malmene par des tenants dun matrialisme dlirant. La
prise de conscience de la responsabilit vis--vis dun outil est videmment au
6
cur de lactivit humaine et ne devrait pas tre dlaisse par ceux qui sont
senss rflchir sur les consquences que peut avoir une approche par trop
rductrice : Le problme nest pas que les machines sont trop admires mais
quelles ne le sont pas assez ! Le pch nest pas que les machines soient des
mcaniques mais que les hommes soient des mcaniques disait Chesterton
dans son ouvrage magistral Heretics
J. Vauthier