RECHERCHE SUR LE SITE

Références
bibliographiques
avec le catalogue


En plein texte
avec Google

Recherche avancée
 

Tous les ouvrages
numérisés de cette
bibliothèque sont
disponibles en trois
formats de fichiers :
Word (.doc),
PDF et RTF

Pour une liste
complète des auteurs
de la bibliothèque,
en fichier Excel,
cliquer ici.
 

Collection « Les sciences sociales contemporaines »

Guido Calogero
L'homme, la machine et l'esclave.”
Conférence aux Rencontres internationales de Genève, 1965, Le robot, la bête et l'homme


Une édition électronique réalisée à partir des Rencontres internationales de Genève, 1965, Le robot, la bête et l'homme, pp. 43-47. Textes des conférences et des entretiens organisés par les Rencontres internationales de Genève 1965 avec le concours de l'UNESCO. Neuchatel: Les Éditions de la Baconnière, 1965, 360 pp. Collection: Histoire et société d'aujourd'hui. Une édition numérique réalisée par Pierre Palpant, bénévole, Paris.

Rappel : Le thème des XXe Rencontres 1965 :
Le robot, la bête et l’homme.

Qu’est-ce que l’humain ? De nos jours où tout se passe comme si des cybernéticiens et des biologistes visaient à réduire en fin de compte l’homme à un robot ou à une espèce animale supérieure, il devient urgent de se demander s’il est vraiment possible de construire un robot qui soit un homme, avec cependant des capacités de calcul, de mémoire et de prévision supérieures à celles de l’« homme naturel ». Ou s’il y a dans celui-ci une quintessence que le robot le plus parfait ne possédera jamais.

En d’autres termes, les machines à traduire, à penser, à décider, contestent-elles l’homme ? Dans le domaine de la création artistique en particulier, est-il vraiment possible, comme le prétendent certains, de produire mécaniquement des oeuvres d’art ? Et aujourd’hui que l’idée de la pluralité des mondes habités fait son chemin, si les astronautes rencontraient effectivement un jour dans un astre quelconque des vivants qui nous ressemblent, à quels critères recourraient-ils pour décider si ce sont ou non des hommes ?
La conférence de Guido Calogero (1er septembre 1965), présentée ci-dessous, et l’entretien public qui s’y rapporte (2 septembre 1965), présidé par M. Jean Rudhart, sont aux pages 65-77 et 239-261 du recueil des Rencontres internationales de Genève 1965, Editions de La Baconnière, Neuchâtel, 1965.

[Voir la page web de l'auteur.]

L’HOMME, LA MACHINE ET L’ESCLAVE

 

Ce n’est pas par l’effet du hasard que les théoriciens de la cybernétique contemporaine comptent de plus en plus, parmi les classiques et les précurseurs de leur science, l’écrivain anglais du XIXe siècle Samuel Butler. Pour se borner à un seul exemple, dans la belle anthologie récemment publiée en Italie par les soins de Vittorio Somenzi sous le titre La filosofia degli automi (Milan, Boringhieri, 1965) et contenant des textes de Johann von Neumann, Gilbert Ryle, C. E. Shannon, Charles Sherrington, A. M. Turing, Norbert Wiener et d’autres auteurs, les chapitres de l’Erewhon de Samuel Butler intitulés « Le livre des machines » sont donnés, en appendice, presque intégralement, tandis que ses idées sont discutées par plusieurs des auteurs compris dans ce recueil. En prévoyant, dans son ironique utopie, le développement de machines plus puissantes que l’homme non seulement dans leurs fonctions mécaniques mais aussi dans leurs activités intellectuelles, Samuel Butler souligne en effet une thèse chère aux cybernéticiens d’aujourd’hui, souvent engagés dans la querelle qui les oppose à tous ceux qui, en dressant l’un contre l’autre le mécanique et le spirituel, contestent que la machine puisse jamais s’élever au niveau de l’esprit, et l’intelligence du robot vaincre celle de l’homme.

Face à ceux qui continuent à se réclamer de cette opposition traditionnelle, Samuel Butler montre bien, dans les pages amusantes de son Erewhon, qu’il n’y a aucune raison valable pour que la supériorité de certaines machines ou de certains animaux sur l’homme, admise pour plusieurs activités qui ne sont pas purement matérielles, doive être exclue, par principe, pour d’autres activités dans lesquelles la supériorité de l’homme serait assurée à jamais. Nous acceptons comme une chose naturelle qu’une automobile ou un cheval soient plus capables que nous de se déplacer dans l’espace. Mais nous trouvons aussi naturel que certains animaux perçoivent, par leurs organes de connaissance, certaines choses mieux que nous et que certains mécanismes nous donnent les résultats de calculs compliqués d’une manière plus rapide et plus exacte que notre intelligence mathématique. D’ailleurs le plus simple des instruments n’est-il pas lui-même une sorte de multiplicateur d’une capacité naturelle de notre être humain ? Nous faisons avec un tournevis ce que nous ne saurions faire avec notre main nue. Déjà dans le Protagoras de Platon nous lisons le récit de la création des espèces vivantes, dans laquelle, à cause de l’imprévoyance d’Epiméthée, les hommes restent avec un corps dépourvu de tout instrument offensif ou défensif. La grande majorité des machines que nous construisons et employons sert précisément à accomplir à notre place ce que nos mains ne seraient pas capables de faire à elles seules, ou qu’elles feraient d’une façon moins rapide et moins exacte. Pourquoi, dès lors, exclure que cette supériorité des machines puisse s’étendre peu à peu à toutes les activités humaines ?

Bien entendu, il existe encore quantité de domaines dans lesquels les hommes sont plus intelligents que les machines, et plusieurs années (ou siècles peut-être) devront encore s’écouler avant que des robots d’une complexité et d’un prix raisonnables puissent, en comprenant le passé et en décidant l’avenir, ou en composant d’authentiques œuvres d’art, rivaliser avec les quelque dix milliards de neurones qui constituent les archives de chaque conscience humaine. Et d’ailleurs, même alors, l’énorme richesse d’expériences nécessaires pour exercer ces formes suprêmes de la créativité intellectuelle ne pourra vraisemblablement être acquise par la mémoire d’un robot qu’à travers les longues années requises pour qu’elles s’accumulent dans la mémoire d’un homme. Pour le moment, en tout cas, nous sommes encore très loin de cela et nous pouvons partager l’opinion (avec satisfaction ou regret, selon notre point de vue) exprimée par le professeur Mace dans sa préface au livre de Wladislaw Sluckin, Minds and Machines, publié en Angleterre dans la collection des « Penguins » : « Il y avait une fois (dit-il) un moine qui inventa une machine capable de démontrer l’existence de Dieu. Il s’agissait d’une tâche intelligente pour une machine. Néanmoins, le moine était plus intelligent que la machine ; bien mieux, il était plus intelligent que toute machine inventée jusqu’à présent. En effet, on n’a pas encore inventé une machine capable d’inventer un moine capable de démontrer quelque chose. »

Mais l’avenir est sur les genoux des dieux, et — comme le professeur Mace l’ajoute — « personne ne peut exclure, avec une certitude rationnelle, qu’un jour une machine puisse peindre un tableau digne d’être exposé non seulement à la Royal Academy » (ce qui ne serait pas grand-chose) « mais aussi dans une des galeries les plus exigeantes du monde de l’art ». En effet, nous n’avons aucune raison rigoureuse pour nier, par avance, que de futurs robots seront capables d’accomplir les tâches les plus hautes de l’intelligence humaine. Après tout, qu’aurions-nous fait, en créant des robots de ce genre, sinon d’avoir des fils artificiels ? Nous les aurions faits, pourrait-on dire, de façon mécanique. Mais les gestes de la procréation ne sont-ils pas, eux aussi, mécaniques ? Ce miracle presque incompréhensible qu’est la création d’une nouvelle conscience, différente de notre conscience et existant en dehors de la nôtre, le réalisons-nous avec notre conscience, ou avec des mouvements de notre corps ? Des mouvements qu’accompagne, bien entendu, l’enthousiasme de l’amour, ou le travail de l’enfantement ; mais un enthousiasme ou un travail semblable n’accompagne-t-il pas aussi les grandes découvertes de la science et les grandes inventions de la technologie ? Et si, en face de la transcendance essentielle de toute conscience autre que la nôtre, on pense que c’est Dieu lui-même qui a inséré l’âme — c’est-à-dire le moi, la présence — dans le corps engendré par les corps du père et de la mère, qui voudrait être impie jusqu’au point d’empêcher Dieu, dans sa toute-puissance, d’ajouter, s’il le veut, une âme à la machine produite par le génie d’un inventeur, ou à l’homunculus finalement créé par les efforts de Wagner, le disciple de Faust ?

La seule chose qu’on pourrait légitimement se demander, à ce point, c’est s’il vaut la peine d’accomplir tous ces efforts, magiques ou technologiques, pour obtenir des résultats auxquels la méthode traditionnelle parvient par des voies plus faciles et généralement plus agréables. Du moins, telle serait probablement l’opinion des pères ; peut-être les mères auraient-elles quelques doutes à ce propos, et leur opinion devrait être davantage prise en considération. Car après tout la procréation est presque entièrement l’œuvre des femmes, quoique les mâles humains, dans leur éternelle ambition androcratique, aiment donner de l’importance à leur petite contribution initiale au processus. Et l’on devrait d’autant plus tenir compte de l’opinion des mères, que les fils artificiels ne seraient pas seulement, selon l’hypothèse, des imitations des fils naturels, mais peut-être des fils plus parfaits et heureux, exempts de toute maladie, faiblesse et tristesse, et — pourquoi pas ? — non seulement capables de jouir de toute jouissance disponible, mais aussi incapables d’en jouir sans la jouissance parallèle des autres (ce qui n’est pas seulement la définition d’un amplexe parfait, mais aussi la définition de l’idéal de toute civilisation morale et politique). D’un autre côté, dans un monde menacé par la population bomb, c’est-à-dire par l’accroissement démesuré de la population, favorisé à son tour par les tabous qui entravent plus ou moins partout une précoce éducation pratique à la discipline de l’orgasme sexuel, l’idée (ou le songe) de la création artificielle de fils plus parfaits pourrait aider à établir, ou à répandre, la conviction que si, dans la vie animale, la sexualité sert surtout à la procréation, dans la coexistence hautement civilisée elle sert surtout au bonheur.

Pour conclure sur ce point, il n’existe donc pas de raison suffisante pour contester l’hypothèse de Samuel Butler, reprise avec enthousiasme par la cybernétique contemporaine, que les robots du futur pourront être non seulement plus capables et intelligents que les hommes d’à présent, mais aussi plus sains, plus sages et plus heureux.

À vrai dire, Butler remarque, à un certain point, qu’il lui « semble peu prudent de trop compter sur le sens moral des machines ». Mais, en disant cela, il souligne justement l’aspect du problème qui est le plus souvent laissé dans l’ombre par les cybernéticiens qui goûtent ses pages. L’on ne devrait en effet jamais oublier que, dans le récit Erewhon, le texte du « Livre des machines » se présente comme le résumé d’un pamphlet politique dirigé contre les machines par quelqu’un qui craignait leur pouvoir sans cesse croissant ; un pamphlet qui avait tellement soulevé contre les machines les esprits des « antimachinistes » que presque toutes avaient été détruites dans la terrible guerre civile qui en était résultée. Autrement dit, pour Samuel Butler, le problème des robots n’est pas, au premier chef, un problème de technique, ou de théorie de la connaissance, ou d’analyse ontologique de la nature des mécanismes matériels face à la nature des êtres spirituels. Il est, avant tout, un problème de morale et de politique, c’est-à-dire de coexistence dans une civilisation possible. Il ne s’agit pas de savoir quel est le statut ontologique des robots face à celui des hommes, ni de décider si leur manière de résoudre les problèmes qui leur sont posés peut être considérée comme le fait d’une « intelligence », d’une « pensée », ou d’une « raison », selon le nom que nous donnons à ces fonctions de l’esprit humain. Il s’agit de savoir si nous sommes justifiés à réagir à leur supériorité dans le cas où ils voudraient l’exploiter pour nous dominer. Il s’agit de savoir jusqu’à quel point nous avons le droit de les employer comme nos esclaves, ou de les empêcher de nous réduire nous-mêmes en esclavage. Il s’agit, en somme, de considérer l’éternel problème, moral et politique, de notre coexistence avec eux comme autres, autrement dit de savoir si et quand ils deviennent vraiment « des autres » en cessant d’être des moyens que nous pouvons faire servir à nos fins, pour devenir des êtres indépendants que nous devons respecter dans leur autonomie.

On peut bien dire, alors, que le livre de Samuel Butler n’a pas seulement le mérite de nous faire constater la faiblesse des arguments selon lesquels il serait à jamais interdit aux machines d’apprendre certaines choses dont nous aurions, par décret divin, le droit exclusif au siècle des siècles. Il a aussi le mérite de nous faire réfléchir au vrai problème de notre relation avec les machines, qui n’est pas de nature logique ou ontologique, mais de nature morale, et qui ne concerne pas la philosophie de l’être et du connaître, mais la philosophie de l’action, la science du bien et du mal. Et cela n’a pas de l’importance seulement pour la question de la philosophie des robots, qui nous intéresse ce soir. C’est important aussi, en général, comme test pour constater, une fois de plus, la relation hiérarchique qui s’établit entre l’ontologie et, d’une part, la logique, de l’autre la morale. Car la science du bien et du mal semble ne pouvoir se fonder que sur celle de l’être des choses. Mais déjà Socrate et Platon savaient, il y a vingt-cinq siècles, que « le bien est au delà de l’être » et ne dépend pas de sa nature.

Qu’arriverait-il, en effet, si les robots de demain, ayant étudié l’ontologie chez certains de ces philosophes pour lesquels tout s’écroulerait sans la certitude de l’être des choses, annonçaient que — leur être logico-mathématique s’étant avéré de niveau supérieur à l’être logico-mathématique des humains — ils se considéreraient désormais autorisés à réduire les hommes à une condition d’infériorité et, pour commencer, à les priver de leur droit de vote dans les élections politiques ? Je crois qu’aucun philosophe personnaliste, défenseur de la dignité de la personne humaine, ne refuserait de se faire le champion de cette dignité et de se battre pour elle, même si ces robots étaient plus puissants que les divisions blindées de Hitler. Pourtant ces pauvres robots n’auraient fait qu’imiter ce même philosophe personnaliste dans son argumentation visant à fonder une supériorité de droits sur une supériorité de nature. Pourquoi le robot ne devrait-il pas déduire son droit de domination sur les hommes du fait d’être fils de calculateurs électroniques bien plus puissants et rationnels que les cerveaux humains, du moment que, de son côté, le philosophe ontologisant déduit tranquillement le droit de l’homme à exploiter et dévorer les animaux du fait qu’il est fils du Père tandis que les bêtes ne le sont pas, ou qu’il possède une âme immortelle tandis que les bêtes en sont dépourvues ?

Il est bien vrai que Jésus-Christ a fait fi de tout cet ontologisme moral, en soulignant que le prochain de l’homme de Galilée n’était pas le Galiléen son frère s’il ne s’arrête pas pour l’aider, mais l’étranger de Samarie s’il se rend proche de lui par l’amour. Mais qui se préoccupe de l’Evangile ? Nous trouvons si commode d’être quelque chose, au-dessus de tout risque que notre comportement nous conduise à ne l’être plus ! Souvenons-nous de la superbe devise de la famille de Rohan : « Roi ne puis, prince ne daigne, Rohan suis. » Voilà la psychologie de la race, par laquelle on est content de posséder une certaine nature qui exclut, par elle-même, tout danger de la perdre... Mais que fait la morale ontologique, sinon partager la même attitude ou, plus exactement, la même paresse spirituelle ? On ne veut pas courir le risque de devenir quelque chose de moins qu’un homme. Pourtant, Pic de la Mirandole savait déjà que l’homme n’est rien par soi-même, car il peut s’abaisser au niveau des bêtes et s’élever au niveau des anges.

D’ailleurs, les anges eux-mêmes pourraient-ils prétendre à jouir de privilèges qui seraient refusés aux diables, pour la seule raison que ceux-ci sont des diables et qu’eux-mêmes sont des anges ? Imaginons que les pauvres diables, après tant d’expériences décevantes, apprennent à coexister selon une règle de tolérance démocratique. Et imaginons, au contraire, que l’escadron des archanges, sous le commandement autoritaire d’un capitaine nommé Michel ou Gabriel, prétende détruire leur royaume et les chasser de leur patrie, avec le même mépris de leurs droits et de leurs raisons qu’ils démontrent dans tant de tableaux du Moyen Age où l’on voit des diables nus foulés aux pieds par des anges bien armés. Nous rallierons-nous, dans ce cas, aux agresseurs ? Et si Dieu lui-même, pour sauver la face, soutenait diplomatiquement ses archanges, cela suffirait-il pour justifier leur cause ? Suffirait-il de dire que quiconque a une nature divine a, par cela même, le droit de ne pas reconnaître les droits des opposants ou de tous ceux qui n’ont pas été doués d’une nature égale à la sienne ?

La réponse à cette question est déjà donnée par la théologie, lorsqu’elle réplique que c’est la nature même de Dieu qui l’empêche d’accomplir toute forme d’injustice. Mais cette réponse même confirme, une fois de plus, que la bonté de Dieu n’est pas déduite de son être : c’est son être, au contraire, qui est défini nécessairement par sa bonté. Autrement dit, Dieu peut tout, sauf désobéir à sa loi morale, laquelle donc ne doit pas sa valeur au fait qu’elle est établie ou suivie par lui, sinon dans le sens même de l’autonomie de quiconque l’accepte et l’applique. Chacun est législateur de soi, en se donnant une loi morale ; mais celle-ci reste toujours la même, comme loi de la reconnaissance de l’autre, et ne dépend, en particulier, ni de la nature de celui qui reconnaît, ni de la nature de celui qui est reconnu. La seule chose nécessaire, c’est qu’il y ait un reconnaissant et un reconnu, soient-ils, l’un ou l’autre, un immortel ou un mortel, un dieu ou un homme, un ange ou un diable, un indigène d’une planète que l’on soupçonne de pouvoir nous comprendre ou une conscience créée dans un robot par une découverte de la cybernétique.

Nous n’avons, par conséquent, en face des robots, aucun problème autre que celui qui nous est posé par toute possible existence d’autrui. L’« autre » est toujours possible, dans l’univers des choses que nous employons en présupposant qu’elles n’ont pas un point de vue qui leur soit propre. Et l’esprit religieux est précisément celui qui est toujours à l’écoute, qui n’exclut jamais qu’une nouvelle voix puisse se faire entendre, quoiqu’elle ne sorte pas des bouches, ou des microphones, qu’il est plus normalement accoutumé à écouter. La seule règle, dès lors, est toujours celle du dialogue, c’est-à-dire la règle selon laquelle le message d’autrui ne peut être subordonné à aucune chose qui ait été connue ou énoncée auparavant. Ce message, en effet, peut être justement sa critique. Encore moins, par conséquent, pourrons-nous poser des conditions à l’être de l’autre pour que son message soit admis à notre compréhension possible. Nous ne pourrons pas lui dire qu’il doit être un homme, ou une âme, pour qu’il soit digne d’être écouté et compris. Qu’arriverait-il s’il nous répondait qu’il n’est pas un homme, qu’il n’a pas une âme, mais qu’il désire quand même être compris de son point de vue ? Que pourrions-nous lui répondre, s’il nous disait qu’il trouve assez étrange que nous lui imposions, comme condition préalable du dialogue, la possession d’une certaine nature, du moment qu’il appartient à lui-même de nous expliquer sa nature ?

Le point crucial, c’est qu’il désire être compris de son point de vue. Voilà donc le signe de l’existence de l’autre, qui ne peut être démontrée ni par la logique, ni par l’ontologie ! La frontière de l’esprit n’est pas marquée par le syllogisme, mais par la présence du désir, par le plaisir et la douleur. Un calculateur mécanique fait des additions tout à fait exactes qui, du point de vue logique, ne sont pas moins rationnelles que des syllogismes. Un robot électronique peut résoudre des problèmes d’algèbre logique et contrôler la validité d’une théorie logique nouvelle. Mais l’un et l’autre peuvent le faire sans savoir qu’ils le font, comme nous-mêmes nous pouvons lire une page à haute voix en songeant à autre chose et sans faire attention à son sens. D’ailleurs nous sommes bien contents lorsque, en apprenant à conduire notre automobile, nous parvenons au point de n’avoir plus besoin de penser aux mouvements à faire, parce qu’ils sont devenus des réflexes spontanés. Toute une foule de nos actions qui, auparavant, devaient être conscientes et qui atteignaient leur but moins sûrement lorsqu’elles étaient conscientes, n’ont plus besoin de l’être, et laissent notre conscience libre de songer à d’autres choses. En ce sens, avoir appris équivaut à n’avoir plus besoin de songer à la chose apprise, comme on ne songe plus aux règles de grammaire lorsqu’on a vraiment appris à parler une langue : si l’on doit encore y penser, c’est qu’on la parle encore mal. De ce point de vue, nous pourrions dire que tout accroissement de nos capacités s’organise comme un enrichissement de la part d’automatisme de notre nature, de la grande réserve cybernétique qui gît dans le tréfonds de notre conscience et dont celle-ci se sert pour être libre de penser à des choses qui l’intéressent davantage. Ce côté « automatesque » ou « robotesque » est celui par lequel nous ressemblons aux robots ; nous appelons en effet « automatiques » les actions si spontanées qu’elles devancent toute possibilité de les projeter consciemment.

Au contraire, être conscient signifie avoir de l’intérêt pour quelque chose, être la présence d’un passé qu’on désire préservé ou changé dans le futur. Par conséquent, conscience signifie toujours souffrance ou plaisir. Or souffrance et plaisir sont bien au delà de la mathématique et des syllogismes. L’« autre » est celui qui souffre, non celui qui raisonne. Plus exactement, l’autre est celui qui peut jouir ou souffrir, selon le cadre de la présence qui s’affirme entre son passé et son futur : il est celui que nous pouvons tâcher de comprendre et d’aider dans ses préférences, ce qui nous rend responsables moralement si nous ne le faisons pas. Voilà le principe du dialogue, fondement de toute moralité (chaque théorie de la morale ne pouvant, elle-même, être qu’un discours dans ce dialogue). Qu’importe, alors, si l’« autre » ne sait pas faire une addition ! Un robot peut résoudre des problèmes de calcul infinitésimal, et ne pas être « un autre », si la solution de ces problèmes ne lui cause ni plaisir ni ennui. Mais s’il est un robot démodé qui ne sait faire que des additions, et qui, pauvre petit, se sent fatigué lorsqu’il en a fait pendant une demi-heure, alors il est « un autre » : il a ses droits, nous ne pouvons plus faire avec lui ce que nous voulons, car ce n’est plus une machine que nous emploierions, c’est un esclave que nous exploiterions.

Les cybernéticiens, par conséquent, devront veiller à ne pas franchir cette frontière sans se rendre compte exactement de ce qu’ils font. Bien entendu, cela n’implique pas qu’on devrait empêcher, ou même simplement décourager, toute recherche technologique visant à construire des robots capables d’imiter la structure de notre système nerveux central non seulement dans sa capacité de résoudre des problèmes de mathématique ou de logique, ou de répondre à des questions en faisant appel à sa mémoire, mais aussi de jouir et de souffrir et d’être plus ou moins indifférent entre la joie et la douleur, c’est-à-dire d’être conscient de soi-même — ce qui ne signifie pas autre chose qu’être plus ou moins satisfait ou insatisfait de son état. Empêcher, ou même décourager, une recherche est toujours une sottise, quelle que soit la recherche. Nous n’aurions là qu’une forme de censure ; et toute censure est stupide, car nous ne pouvons jamais prévoir quels dommages ou avantages nous recevrons, dans l’avenir, de communications, de révélations, d’exhibitions, de découvertes, qui nous semblent gênantes au moment présent. De plus, celui qui réussira à construire un robot capable de souffrir n’aura pas seulement créé une autre souffrance dans le monde en face de laquelle il aura immédiatement le devoir moral de ne pas rester indifférent. Il aura aussi, très probablement, mieux compris certains des mécanismes qui déterminent le plaisir et la douleur, dans notre système nerveux lui-même. Or cela pourra lui donner des moyens pour alléger les souffrances des hommes du futur et, pourquoi pas, des robots du futur...

Mais l’essentiel est de bien comprendre qu’au moment même où nous avons construit un robot capable d’éprouver plaisir et douleur, satisfaction et insatisfaction, joie pour l’activité aimée et ennui pour l’activité détestée, nous avons abandonné le royaume des machines, c’est-à-dire le royaume dans lequel nous sommes souverains absolus, et dont les sujets n’ont aucun droit puisqu’ils ne savent pas qu’ils travaillent pour nous. En effet, la gloire de la civilisation technologique moderne est justement qu’elle nous permet d’être des seigneurs sans avoir des serfs, d’être aidés par un nombre immense d’esclaves sans conscience, et donc sans aucune raison d’aspirer à une libération. Les robots du futur, quelle que soit la puissance de leur opérativité rationnelle, ne seront encore que des esclaves sans conscience, jusqu’au moment où on les éveillera à la joie et à la douleur. Mais à ce moment même, on ne pourra plus les employer tout simplement comme des machines, car on aura abandonné le royaume des instruments sans droits pour entrer dans la république des êtres qui ont le droit d’être compris.

Pour l’homme de la rue, qui sait très bien que son bien-être est plus important que le plus difficile des théorèmes logiques, et que ce théorème logique lui-même n’est important que dans la mesure où il sert au bien-être de quelqu’un (ne fût-il que le mathématicien heureux de l’avoir découvert !), cela ne fera pas de difficulté. Mais les cybernéticiens, les mathématiciens, les logiciens, tous ceux qui travaillent à projeter et à construire des robots, sont encore, presque toujours, très influencés par la vieille idée que, la rationalité de l’homme étant surtout réglée par la logique, et celle-ci se démontrant surtout dans la mathématique, la marque de l’intelligence est en premier lieu la capacité de calcul. O theos geometrei, « Dieu fait de la géométrie », disait, nous le savons tous, Platon. Mais c’était le Platon plus archaïque, le Platon pythagoricien, non le Platon socratique, qui apprit à voir bien plus loin. Maintenant nous voyons confirmé par la cybernétique ce que les meilleurs des philosophes savaient depuis longtemps, à savoir qu’il est bien plus facile de construire une machine capable de résoudre des problèmes de mathématique supérieure que de construire une machine capable de souffrir d’une simple rage de dents. En effet, on peut résoudre des problèmes de calcul infinitésimal, ou distinguer les syllogismes concluants des syllogismes non concluants, sans pour autant être une présence. Mais on ne peut pas souffrir de la douleur la plus élémentaire, ou jouir du plus simple plaisir, sans être la présence d’un passé et d’un futur, et le désir que certains aspects de ce passé changent ou durent dans le futur. Mais cette présence — comme l’ont vu clairement déjà Aristote et saint Augustin, bien avant Kant — est justement ce qui ne peut jamais être localisé dans l’espace, ni créé par un mouvement ; car le mouvement lui-même n’est pas un mouvement, sinon dans le cadre d’une présence, qui puisse comparer des moments différents. Et si, à un moment donné, on sera capable de faire naître cette présence dans un robot, comme on la fait naître par l’amour dans le corps des hommes, on ne pourra jamais dire elle se trouve dans ce robot, comme on ne peut jamais dire où elle se trouve dans le corps de l’homme. On pourra tout au plus dire que si l’on détruit quelque chose dans ce corps, elle ne se montre plus. Mais lorsqu’elle se montre, elle se montre seulement dans le dialogue, dans l’interprétation que nous donnons du point de vue d’autrui. C’est là, justement, l’infériorité de la logique en face du dialogue. Toute logique est mécanisable, le dialogue ne l’est pas.

D’autre part, exhorter les cybernéticiens à bien voir où est la frontière qui sépare le royaume des machines de la république des consciences, c’est en même temps rappeler aux philosophes ce qu’ils devraient avoir compris depuis longtemps, à savoir que la philosophie de l’être et du connaître, la logique et la gnoséologie et l’ontologie, ne sont que des sections isolées et appauvries de la philosophie de l’action, de la science du bien et du mal. Il est temps que les philosophes cessent de se poser la question périmée de savoir si le robot raisonne ou ne raisonne pas, s’il est ou s’il n’est pas intelligent, avec la secrète terreur qu’il se révèle plus intelligent qu’eux-mêmes, et avec un soupir d’orgueil satisfait lorsqu’ils ont prouvé qu’il ne l’est pas. Il est temps qu’ils commencent à comprendre que les seules questions sérieuses de la philosophie sont les questions morales, et que le seul problème philosophique, dans le cas des robots, est celui de savoir s’ils sont des machines sans souffrance, qu’on peut interroger pour qu’elles répondent mais sans se préoccuper de savoir si elles ont envie de répondre, ou si ce sont des machines qui se fatiguent, des ouvrières qui souffrent et qu’on ne peut plus employer sans leur demander si elles sont d’accord. J’espère que ce problème sera compris par les cybernéticiens. Qu’il soit compris par les philosophes... eh bien, je l’espère aussi. 

* 

La conférence de Guido Calogero a été suivie d’un entretien public ‘Morale et ontologie’, présidée par M. Jean Rudhart.

Conférence et entretien sont disponibles aux pages 65-77 et 239-261 du recueil des Rencontres internationales de Genève 1965, Editions de La Baconnière, Neuchâtel, 1965.


Retour au texte de l'auteur: Jean-Marc Fontan, sociologue, UQAM Dernière mise à jour de cette page le mardi 19 février 2008 16:04
Par Jean-Marie Tremblay, sociologue
professeur de sociologie au Cégep de Chicoutimi.
 
Commanditaires




Saguenay - Lac-Saint-Jean, Québec
La vie des Classiques des sciences sociales
dans Facebook.
Membre Crossref