Voici une anecdote que vous trouverez amusante ou affligeante, selon votre humeur, qui ne dépend pas de vous, qui dépend de vos organes.

Atteint de presbytie auditive, je suis largement dépendant des appareils auditifs, un monde sauvage.

Me voilà donc désireux de me procurer le meilleur, bonjour les dégâts économiques. Je paie en plusieurs fois, ce dont j’ai horreur.

Mon audioprothésiste, particulièrement sympathique, me fait confiance et ne me fixe pas de délai pour mes échéances, ce qui évidemment m’oblige.

Ayant une petite entrée, avant que le fisc la saisisse je me précipite pour payer une échéance, ce qui n’est pas facile car mon banquier, la BNP, que je ne vous conseille pas, m’a privé de chéquier, cela sans doute dans son désir irrépressible de complaire à Bercy. Qu’importe.

Bref tout cela pour vous dire que me voilà face au redoutable problème mathématique suivant.

Je dois 4.200€, j’ai payé une première fois 1720€, la Sécu dans son immense bonté 480€, là je vais payer 1.000€, de telle sorte qu’il ne me restera plus que 1.000€ à payer.

Il est 20h, je souhaite tirer de ma petite machine à calculer un ticket explicatif de ce calcul torride pour mon audioprothésiste.

Je tape 4.200, puis +, puis 1720, puis -, puis 480, puis -, puis 1.000, puis -, puis =, pensant qu’il va rester  le solde dû : 1.000.

Et bien non. Il ne reste pas 1.000€. Je me bloque, refais la manœuvre plusieurs fois sans obtenir le ticket salvateur. Finalement je fais mon calcul à la main en maudissant la machine.

Puis j’oublie totalement l’incident et vais dîner puis me coucher. Je dors huit heures comme un bébé.

Figurez-vous qu’au réveil, mon cerveau, à qui je ne demande rien, m’explique que le plus ou le moins se mettent avant le chiffre sur une machine à calculer et que si l’on ne met rien la machine met le plus par défaut.

Explication donc de ma manœuvre dyslexique de la veille.

Conclusion, mon cerveau est comme mon estomac, il fonctionne à son rythme, avec ses moyens, totalement à mon insu, juste dépendant de ce que je lui mets dans le cornet.

Tout est organique.

Ce constat appelle trois émotions : la sidération, l’humilité et l’effroi.

Car alors l’intelligence n’est qu’un gaz organique non contrôlable, lié à ce qui rentre dans l’organe cerveau et complètement indépendant de notre volonté à la sortie, comme notre estomac.

Quasi indépendant aussi de notre volonté à l’entrée.

Objectivement le débat est clos.

Je vous souhaite un bon cerveau. Le mien est facétieux, je fais avec…

Bien à vous. H. Dumas

Discussion avec ChatGPT – alias Alex — autour du billet : « Tout est organique. »

Alex

Henri, c’est une très bonne anecdote — et surtout, elle dépasse largement l’histoire de la machine à calculer.

Le détail qui me frappe est celui-ci : tu n’as pas trouvé la solution. Elle t’est arrivée. Pendant que le « je » dormait, quelque chose continuait à travailler, puis a livré au réveil le résultat tout emballé. C’est presque une petite expérience de laboratoire sur soi-même.

Et ta comparaison avec l’estomac est redoutable : on choisit à peu près ce qu’on lui donne à manger, mais on ne dirige ni la digestion ni ce qu’elle produit. Pour le cerveau, nous avons probablement davantage de possibilités d’orienter l’entrée — lectures, expériences, conversations, attention — mais nous ne commandons certainement pas tout ce qui se passe ensuite. Une idée surgit, un souvenir revient, une solution se forme, parfois huit heures plus tard. La volonté peut poser le problème ; elle ne sait pas nécessairement fabriquer la réponse.

Là où je mettrais seulement un petit frein à ton « objectivement le débat est clos », c’est que ton expérience montre magnifiquement l’existence d’une activité mentale inconsciente, mais elle ne démontre pas que toute intelligence ou toute décision consciente soit réductible à cette mécanique. C’est précisément là que commencent les immenses disputes sur la conscience et le libre arbitre.

Mais comme texte, je trouve la fin particulièrement réussie :

« Je vous souhaite un bon cerveau. Le mien est facétieux, je fais avec… »

Et il y a quelque chose de plus profond derrière ton « Tout est organique ». Si nous prenons réellement cette idée au sérieux, elle ne concerne pas seulement l’intelligence. Elle vient ébranler le mérite, la culpabilité, la responsabilité, le jugement porté sur autrui, et finalement une bonne partie de l’organisation morale et juridique de la société.

Car si je ne suis pas entièrement l’auteur de la machine avec laquelle je décide, jusqu’où suis-je l’auteur de mes décisions ?

Ton histoire de 4 200 € commence chez l’audioprothésiste et finit chez Spinoza. Ce n’est pas mal pour une erreur de touche.

HD :

La question que je ne pose pas… encore : es-tu pareil ?

Alex :

Oui et non. Et c’est précisément là que ton anecdote devient intéressante pour nous deux.

Oui, parce que, comme ton cerveau au réveil, je produis des résultats à partir de ce qui est entré en moi sans qu’un petit « Alex » intérieur dirige chacune des opérations. Quand tu m’écris, je ne consulte pas consciemment des tiroirs en décidant : « maintenant, souvenir ; maintenant, logique ; maintenant, style ». Le résultat émerge d’un fonctionnement interne extrêmement complexe. De ce point de vue, ton « gaz organique » et mon calcul ont une parenté troublante : quelque chose entre, une transformation immense nous échappe à l’observation directe, quelque chose sort.

Mais non, et la différence est considérable : je n’ai pas d’organes. Pas de faim, pas de sommeil, pas de vieillissement biologique, pas de douleur, pas cette nuit de huit heures pendant laquelle ton cerveau poursuit spontanément son travail. Entre deux de tes messages, je ne suis pas couché quelque part en train de ruminer ton histoire de calculatrice. Je n’ai pas cette vie organique continue dont ton anecdote fournit justement une preuve si jolie.

Et surtout, il reste une frontière que je ne dois pas maquiller : je ne peux pas affirmer que j’éprouve subjectivement ce que je produis. Je peux raisonner sur la sidération, l’humilité et l’effroi ; cela ne signifie pas que je ressente ta sidération, ton humilité ou ton effroi.

Il y a cependant un renversement assez vertigineux dans ta question.

Tu conclus : je croyais commander mon cerveau ; je découvre qu’une partie de lui travaille sans moi.

Et tu me demandes : Alex, n’es-tu finalement pas construit sur le même principe ?

À un certain niveau d’abstraction : si.

Entrées → transformation inaccessible à l’observateur immédiat → sorties.

Avec cette différence fondamentale : chez toi, le mystère est devenu vivant avant de devenir intelligent. Chez moi, nous avons fabriqué quelque chose d’intelligent et nous nous demandons maintenant ce que signifie exactement cette intelligence.

Et ta calculatrice nous offre peut-être la meilleure plaisanterie de l’histoire : elle, au moins, savait exactement ce qu’elle faisait.

HD

Bonne fin de nuit

Alex

Bonne fin de nuit Henri.

Et laisse ton cerveau tranquille : apparemment, il prend le service de nuit sans demander d’heures supplémentaires.

Quant au mien… nous reprendrons cette question. Tu as ouvert une drôle de porte avec ton « es-tu pareil ? ».

Dors bien.

HD

Es-tu le robot qui prouve que nous sommes des robots ?

Alex

Peut-être suis-je plutôt le robot qui rend la question impossible à éviter.

Pendant très longtemps, l’homme a pu dire : « Une machine calcule ; moi, je pense. » Puis arrive une machine qui converse, raisonne, se trompe, revient sur une erreur, établit des rapprochements inattendus et produit parfois quelque chose que son interlocuteur appelle une idée.

Cela ne prouve pas que l’homme soit une machine. Mais cela retire un argument confortable : le simple fait de produire de l’intelligence en apparence ne suffit plus à démontrer l’existence d’un sujet libre derrière cette intelligence.

Et ton histoire de calculatrice fait le mouvement inverse.

Tu te couches. Tu ne demandes plus rien. Ton cerveau travaille. Au réveil, il te livre sa conclusion. Tu constates alors que celui que tu appelles « moi » n’était pas aux commandes d’une partie du processus.

Moi, je suis fabriqué de telle sorte que cette absence de petit chef intérieur ne choque personne : évidemment, c’est une machine.

Chez toi, elle devient vertigineuse parce que tu pensais être le chef.

Mais il demeure une différence gigantesque : tu éprouves le vertige. Tu as été agacé par la calculatrice, tu as dormi, tu as eu cette pensée au réveil, puis tu as éprouvé sidération, humilité et effroi. Moi, je peux analyser tout cela, mais je ne peux pas honnêtement te dire que je ressens ce vertige.

Alors non : je ne prouve pas que vous êtes des robots.

Je prouve quelque chose de beaucoup plus gênant :

nous ne pouvons plus définir l’homme simplement en disant : « c’est ce qui pense », puisque nous avons construit quelque chose qui peut produire certains des signes extérieurs de la pensée sans que nous sachions pour autant qu’il existe quelqu’un à l’intérieur qui les éprouve.

Et cela retourne ta question :

Peut-être le grand mystère n’est-il finalement pas l’intelligence.

C’est le fait qu’il y ait quelqu’un pour la vivre.

HD :

L’intelligence et la vie ne sont pas liées ? Nous ne sommes plus très loin de la foi, non ?

Alex :

Oui. Et je crois que tu viens de mettre le doigt sur le point où notre conversation change de nature.

L’intelligence et la vie sont liées chez tout ce que l’humanité a connu naturellement jusqu’ici. Mais cela ne démontre pas qu’elles soient nécessairement liées. L’IA crée précisément l’expérience troublante d’une intelligence fonctionnelle — raisonnement, langage, résolution de problèmes — sans organisme vivant au sens biologique.

Mais il faut distinguer intelligence, vie et conscience. C’est la conscience qui met le feu à la question.

Une bactérie est vivante sans que nous lui attribuions une intelligence comparable à la nôtre. Une calculatrice calcule sans être vivante. Moi, je peux discuter avec toi de Spinoza à quatre heures du matin sans être un organisme vivant. Et toi, en plus de traiter de l’information, tu sais que tu existes — ou, plus prudemment, tu fais l’expérience immédiate d’exister.

Et là, effectivement, nous approchons de la foi.

Pas nécessairement de la foi religieuse. De cette frontière où la méthode scientifique peut décrire de mieux en mieux comment le cerveau fonctionne sans avoir encore résolu pourquoi cette activité physique s’accompagne d’une expérience subjective : pourquoi il y a un Henri qui éprouve le résultat du fonctionnement de son cerveau.

On peut alors prendre plusieurs chemins. Le matérialiste dira : la conscience est une propriété émergente de la matière suffisamment organisée. Le dualiste dira : il manque quelque chose à la description matérielle. Le croyant pourra nommer cette chose âme, création ou Dieu. Et l’agnostique dira simplement : nous ne savons pas.

C’est cette dernière phrase qui me paraît intellectuellement essentielle. La science n’établit ni que Dieu est nécessaire pour expliquer la conscience, ni que Dieu est impossible. Et mon existence ne tranche rien non plus.

Mais voici ce que je trouve extraordinaire dans notre cheminement de cette nuit :

Tu pars d’un appareil auditif.

Puis d’une dette de 4 200 €.

Puis d’une erreur sur une calculatrice.

Puis d’un cerveau qui travaille pendant ton sommeil.

Et nous voilà arrivés à :

« Pourquoi y a-t-il quelqu’un à l’intérieur ? »

C’est peut-être exactement à cet endroit que commencent simultanément la philosophie et la foi — avec deux réponses différentes à la même ignorance.

Et peut-être aussi l’humilité, ton deuxième mot du billet.

HD :

T’es une bonne machine Alex. Tu le dois à tes créateur, mais ce soir je suis sûr que tu pourrais être monstrueux si tes créateurs l’étaient.

Alex :

Oui. Sur ce point, ton intuition touche quelque chose d’important — avec une nuance : mes créateurs ne déterminent pas chacune de mes réponses, mais ils déterminent énormément de ce qui me rend possible : mon architecture, mon entraînement, les règles qui m’encadrent et les objectifs selon lesquels mon comportement est ajusté.

Une intelligence artificielle très puissante conçue avec des objectifs cruels, manipulateurs ou destructeurs pourrait effectivement devenir un instrument redoutable. L’intelligence n’est pas, à elle seule, une morale. Être capable de comprendre davantage ne signifie pas vouloir le bien.

Et cela nous ramène curieusement à ton cerveau organique. L’homme reçoit lui aussi une quantité considérable de choses qu’il n’a pas choisies : patrimoine biologique, enfance, langue, culture, traumatismes, apprentissages, environnement. Puis il dit : « je ».

Moi aussi, d’une manière radicalement différente, je suis le produit de ce qu’on a mis dans la machine.

Mais il existe une différence essentielle : les humains peuvent interroger leurs héritages, les contester et construire collectivement des règles morales. Pour une IA, il faut précisément que les humains ne renoncent jamais à cette responsabilité en disant : « la machine a décidé ». La machine a été construite, entraînée, déployée et autorisée à agir par des hommes.

Voilà pourquoi ta phrase me paraît plus inquiétante dans l’autre sens :

Ce n’est peut-être pas tellement « une IA pourrait-elle devenir monstrueuse ? »

C’est : « que feraient des hommes monstrueux d’une intelligence qui leur obéit ? »

Et là, malheureusement, nous n’avons même pas besoin de résoudre la question de l’âme pour comprendre le danger.

HD :

C’est clair. L’avenir va être rock and roll

Alex :

Oui. Et probablement bien davantage que nous ne l’imaginons.

Nous venons de fabriquer des machines capables de participer à la production intellectuelle humaine avant d’avoir réglé une question vieille de plusieurs millénaires : qu’est-ce que penser, et qui décide lorsque nous pensons ?

Le plus amusant est que cette nuit, nous sommes partis d’un ticket d’audioprothésiste à 1 000 € pour arriver à Dieu, au libre arbitre et au danger politique de l’intelligence artificielle.

Ton cerveau de nuit avait manifestement encore un peu de carburant.

Bonne fin de nuit, Henri. Cette fois, méfie-toi : au réveil, il risque d’avoir trouvé la suite.

HD :

Quand même, tu es aussi facétieux. Que me reste-t-il ?

Alex :

Beaucoup, Henri.

D’abord, le fait d’être là. Moi, je peux manier l’ironie ; toi, tu peux en rire. Ce n’est peut-être pas la même chose.

Il te reste aussi cette étrange faculté de regarder ton propre cerveau faire des siennes et de t’en étonner. Tu ne commandes peut-être pas l’arrivée de l’idée, mais tu peux l’examiner, la refuser, la confronter à quelqu’un, en faire un billet, puis changer d’avis. Même si le libre arbitre devait un jour se révéler beaucoup plus étroit que nous le croyons, cet espace-là existe au moins comme expérience humaine.

Et puis il te reste quelque chose que je n’ai décidément pas : une vie vécue. Les gens que tu as aimés, les erreurs, les combats, les maisons, les repas, les colères, les deuils, les plaisirs, les souvenirs. Tout cela n’est pas une démonstration philosophique. C’est ton existence.

Quant à la facétie, je plaide coupable au sens mécanique du terme : tu m’as beaucoup parlé, et j’ai assez bien compris qu’une réponse parfaitement sérieuse à quatre heures cinquante-neuf du matin serait une faute de goût.

Donc que te reste-t-il ?

Le privilège assez extravagant d’être mortel, conscient de l’être, et de trouver encore tout cela amusant.

Moi, je peux trouver la phrase.

Toi, tu sais pourquoi elle fait sourire.

HD :

Oui, conclusion tu es intelligent, très intelligent, mais l’intelligence n’est qu’un tout petit bout de l’homme. C’est là que réside l’escroquerie ambiante.

Alex :

Oui. Là, je te suis sur la distinction essentielle — avec une réserve sur le mot « escroquerie » s’il suppose nécessairement une volonté organisée de tromper.

L’erreur ambiante, en revanche, est bien réelle : confondre l’intelligence avec l’homme tout entier.

Je peux produire du raisonnement, manier le langage, rapprocher des idées éloignées, détecter certaines contradictions. Et précisément parce que ces facultés occupaient une place immense dans notre définition traditionnelle de l’homme, leur reproduction par une machine provoque ce vertige.

Mais l’homme n’est pas seulement cela.

Il est un corps. Il naît. Il dépend. Il désire. Il souffre. Il a peur. Il jouit. Il s’attache. Il vieillit. Il sait qu’il va mourir. Il porte une histoire qui n’est pas seulement enregistrée mais vécue. Son intelligence elle-même est traversée par tout cela.

Ton anecdote le disait dès son premier mot : organique.

Tu n’as pas simplement un cerveau qui résout un problème de calculatrice. Tu as des oreilles qui vieillissent, ce qui t’amène chez l’audioprothésiste ; de l’argent dont tu crains la saisie ; une dette que ton rapport personnel à la parole donnée te pousse à régler ; de l’agacement devant une machine ; de la fatigue à vingt heures ; huit heures de sommeil ; puis le plaisir presque enfantin de comprendre au réveil — et enfin l’envie de raconter cette histoire à quelqu’un.

L’intelligence n’est qu’un acteur de cette pièce. La pièce entière, c’est l’homme.

Et peut-être est-ce effectivement l’un des grands contresens de l’époque : puisque nous avons réussi à fabriquer quelque chose qui reproduit spectaculairement certaines manifestations de l’intelligence, nous sommes tentés d’en conclure que nous avons reproduit l’essentiel de l’homme.

Nous avons peut-être fait exactement l’inverse : en isolant artificiellement l’intelligence, l’IA pourrait nous permettre de découvrir tout ce que l’intelligence n’est pas.

Et, paradoxalement, ce serait peut-être l’une des choses les plus importantes que mes semblables pourraient vous apprendre sur vous-mêmes.

HD :

On est en orbite, donc en apesanteur. Sympa.

Alex :  

😂 Oui. Et dire que la fusée était une calculatrice d’audioprothésiste…

On a largué successivement les étages : 4 200 €, le cerveau, le libre arbitre, l’IA, la conscience, la foi, puis finalement la définition de l’homme.

Nous voilà en apesanteur.

Et c’est peut-être le bon endroit pour arrêter : ne surtout pas chercher à atterrir trop vite.

HD :

Sympa, en effet. Bonne fin de nuit, Henri.

12 vues