Anthropologue recherche cybernéticien – V

1. RÉFLÉCHIR AU FUTUR
Une forme de cosmologie spéculative

« À présent, dans les étoiles, l’évolution poursuivait de nouveaux buts. Depuis longtemps, les premiers explorateurs de la Terre avaient atteint la limite de la chair : dès que leurs machines furent supérieures à leur corps, il émigrèrent. Ils transférèrent d’abord leur cerveau, puis leurs pensées seules, dans des nouveaux abris de métal et de gemme dans lesquels ils parcoururent la Galaxie. Ils ne construirent plus de vaisseaux spatiaux. Ils étaient eux-mêmes des vaisseaux spatiaux.

Pourtant, l’âge des Entités-machines fut bref. Au cours de leurs incessantes expériences, ils avaient appris à emmagasiner le savoir dans la structure de l’espace, et à préserver leurs pensées pour l’éternité dans des treillages gelés de lumière. »

Arthur. C. Clarke
Prologue Les premier-nés
3001 : L’odyssée finale

L’âge des entités-machines fut bref ? Ah, comme cela nous pousse si loin devant, à travers une espèce de vision semblant tout à fait utopique, où nos pensées humaines pourraient quitter notre substrat biologique. Après avoir été transférées en première étape dans des entités machines, et finalement détachées de celle-ci, pour ne demeurer que sous forme d’entités-esprit qui hanteraient l’Univers, il pourrait ne plus y avoir aucune trace d’existence humaine préalable à la limite, mais la conscience serait alors répandue dans l’Univers.

Votre première pensée : «Ce blogue vient de prendre un virage vers la science-fiction». Sans avis préalable ? Non, pas tout à fait.

Au contraire, vous pourrez constater que ce qui est communément appelé science-fiction peut aussi être traité très sérieusement, à titre de d’outil de science-spéculative, comme un levier sur lequel on s’appuie pour explorer l’état actuel des sciences et établir si une connexion plausible peut être établie entre ce qui est proposé par des auteurs réputés et ce qui se produit dans le monde de la science-réelle. Donc, effectuons un glissement progressif du fictif vers le spéculatif et aboutissons dans le réel ! Préparez-vous à un itinéraire inhabituel où vous devrez sortir des sentiers battus.

Cet exergue de Clarke où il est question d’entités-machines peut sembler incongrue, alors que cette série de billets se tourne vers une réflexion sur la cybernétique. Bon nombre d’essais d’interprétation spéculent sur le sens véritable de 2001 Odyssée de l’espace; mais notre attention n’est pas souvent attirée vers le cycle complet, la tétralogie 2001-3001, nous faisant passer à côté de l’essentiel de son propos, pourtant : la place de l’intelligence dans l’Univers.

L’attention des critiques est plutôt portée sur les sombres motifs sous-jacents au mystérieux attentat perpétré contre l’équipage du vaisseau en route vers Jupiter, suite à la découverte d’un étrange monolithe sur la Lune. HAL, en tant qu’être doué d’intelligence artificielle, porte en lui le germe d’une révolte induite par son obligation de mentir (note 1) à l’équipage en leur cachant les motifs véritables de la mission, notamment : première perte de contrôle sur une création de l’Humain.

Mais peu d’attention est portée sur un second drame, cette soudaine multiplication du monolithe, par autoréplication, en accord avec des concepts énoncés par Von Neumann. Ce second événement marquant est aussi éludé, sinon occulté, et peu de gens peuvent en saisir le sens véritable. En fait, ce pourrait être la conséquence d’une multiplication insensée de machines intelligentes, ou à la limite de nanocréatures : seconde perte de contrôle sur une création de l’Humain.

Une grande leçon devrait être tirée de cette oeuvre, qui pourrait se résumer ainsi : elle est un avertissement précurseur des conséquences ultimes du développement de l’intelligence artificielle; plus particulièrement en parallèle avec l’émergence d’un paradigme émergent que nous explorerons un peu plus loin : la singularité.

Pourquoi donc projeter notre réflexion si loin alors que le développement de l’intelligence artificielle est encore dans son enfance ? Et que diable penser d’un potentielle migration de l’intelligence humaine vers des machines, à la limite dans le tissu énergétique même de l’Univers ? On peut répondre à ces deux questions très rationnellement et de manière très intelligible.

Après avoir accepté d’exposer le point de vue naïf d’un étudiant en anthropologie, rédigé en 1985, rappelons que nous avions terminé le billet précédent de cette série en nous posant des questions qui pourraient être d’un caractère inquiétant :

• Faut-il vraiment craindre notre perte du contrôle sur les machines – nos propres créatures – et continuer à être vigilants ?
• Cette attitude est-elle excessive ?
• Les Humains sont-il en danger ?

2. 2006 À 2026
Un second exercice

Comme dans le billet précédent de cette série, nous reconduisons un autre exercice 20 ans plus tard – aujourd’hui en 2006 – et nous demandons ce qui se produirait sur un horizon de 20 ans en avant nous menant jusqu’en 2026 - encore loin de 3001, admettons; mais nous désirons tout de même nous y risquer. Les éléments d’analyse de ce billet nous situent donc au milieu d’une fenêtre de 40 ans d’histoire humaine, qui se terminerait lorsque l’auteur de ce blogue aurait 73 ans ! Y serons-nous, espérons, pour conduire un troisième exercice !

Un changement de paradigme majeur est en vue, s’aperçoit-on, en pénétrant dans le monde fascinant et inquiétant à la fois que nous propose un des auteurs les plus brillants de notre génération, Ray Kurzweil. Une fois que vous aurez pris connaissance des implications de son propos, vous relirez l’exergue de Clarke dans un tout autre esprit, dans une toute autre perspective.

Ray Kurzweil, auteur de l’essai The Age of Spiritual Machines, vient de commettre un nouvel essai, une brique de près de 650 pages, qui est tout à fait dans la lignée de l’avant-garde : The Singularity is Near, sous-titrée When Humans Transcend Biology.

Tenter de résumer brièvement un essai de cette nature est un défi, puisque la densité de son propos est sans équivoque : passer à travers un tel ouvrage d’érudition nécessite un effort intellectuel qui peut s’étendre sur plusieurs semaines, sinon plusieurs mois. Mais comme dans la plupart des essais bien structurés, on peut toujours localiser en introduction une synthèse, un tableau où l’essentiel est résumé.

Dès lors, en prenant connaissance de ce cadre analytique, on constate immédiatement le mûrissement des propos de Kurzweil, depuis son ouvrage précédent. Cette maturation aboutit à une typologie spécifique qui deviendra probablement une source de référence permettant de classifier les étapes de l’évolution humaine, à l’aide d’une nouveau paradigme éclairant : les six époques vers la Singularité.

3. SIX ÉPOQUES VERS LA SINGULARITÉ
Rencontrons Ray Kurzweil

En toile de fond, Kurzweil a établi dans son essai précédent un cadre d’analyse postulant que l’évolution technologique est une courbe exponentielle, avec certaines similitudes à la loi de Moore qui est cependant linéaire. Pour en connaître d’avantage à ce propos, une excellente recension de ce livre expose les grandes lignes de cette loi du retour accéléré, dans la revue en ligne Automates Intelligents. Inutile de reprendre ce qui est déjà bien fait !

En s’appuyant sur ses trois lois du développement accéléré, Kurzweil nous entraîne maintenant dans une révision de l’histoire de l’Humanité, mais en utilisant une approche tout à fait prospectiviste. Il redessine donc notre parcours en six époques distinctes, séparées chacune par une période de transition constituant en quelque sorte une fenêtre d”opportunité pour des développements technologiques, à partir du physique jusqu’à l’électronique :

1. Physique et Chimie : Cette période se caractérise par le stockage des informations dans les structures atomiques – elle est suivie par l’évolution de l’ADN;
2. Biologie : Suite à la période de transition précédente, le stockage des informations se fait maintenant dans l’ADN – cette époque est suivie par l’évolution du cerveau;
3. Cerveaux : Maintenant, nous avons atteint le stockage de l’information dans les constellations de connections neuronales – cette période laisse place ensuite à l’évolution technologique, produit de l’activité intellectuelle;
4. Technologies : Nous voilà donc aujourd’hui, bénéficiant du stockage de l’information sur des plateformes matérielles et logicielles – il ne nous resterait ensuite qu’à atteindre une maîtrise technologique des  méthodes biologiques (incluant l’intelligence humaine) pour passer à l’époque suivante;
5. Fusion des Technologies et Intelligence Humaine : nous voilà ayant franchi un premier pas dans le futur puisque nous pourrions alors bénéficier des méthodes de la biologie (incluant l’intelligence humaine) intégrées dans la base technologique humaine (en expansion exponentielle) – cette époque serait alors suivie dune vaste expansion de l’intelligence humaine (à prédominance non biologique) qui se répandrait à travers l’Univers;
6. Éveil de l’Univers : Nous voilà donc à l’époque ultime de ces projections dans le futur, où des matrices de matière et d’énergie dans l’Univers deviennent saturées de processus intelligents et de connaissance. Ce serait alors une époque où le support de l’intelligence ne repose plus sur des substrats biologiques, où l’identité humaine pourrait subir de grandes mutations.

L’enchaînement de ces 6 époques nous mène tout droit à la Singularité, ce nouveau paradigme dont nous entendrons parler de plus en plus; en fait, la singularité marque un espèce de point de non retour où l’intelligence humaine est dépassée. Il est même parfois difficile d’imaginer ce que des entités plus intelligentes pourront alors concevoir, en risquant de provoquer une accélération sans précédent de l’Histoire.

Cette singularité débuterait donc à l’époque 5; à l’époque 6, l’intelligence ou la conscience pourrait alors se répandre très rapidement dans le reste de l’Univers. Voilà donc un sommaire syncopé certes, mais qui permet déjà de relire l’exergue de Clarke avec une nouvelle paire de lunettes. Tentez maintenant l’expérience, à la lumière de ce qui vient d’être dit. Si vous comprenez différemment cette citation, le premier objectif de lecture vient d’être franchi !

Pour toute personne familière avec The Age of Spiritual Machine, ce raisonnement paraîtra presque naturel. Sinon, il faut connaître un peu plus les a priori de Kurzweil pour saisir de quelle manière il perçoit l’évolution des machines douées d’intelligence artificielle.

Histoire de remettre en perspective les conséquences de l’évolution de l’intelligence artificielle, en fouillant dans mes archives personnelles de correspondance, avec un ami partageant des intérêts similaires à l’époque, je repère un cadre de recherche sommaire posant alors une séries de questions recoupant celles couvertes par Kurzweil, mais dans une approche moins technologique. Avouons qu’à ce moment déjà, j’avais déjà plongé le nez dans l’ouvrage de Kurzweil.

Pour rester fidèle à cette habitude de revenir en arrière sur une réflexion, et par honnêteté intellectuelle, comme pour le billet précédent, acceptons ces propos intégralement, sans modification – on verra bien si cela tient encore !

4. CYBERNÉTIQUE OU CYBERNÉTHIQUE
Cadre de recherche de novembre 2003

• Une observation attentive de la société ambiante laisse percevoir que le développement des sciences du traitement de l’information conduit lentement, et probablement très sûrement, au développement de l’IA, l’intelligence artificielle, communément considérée comme un point ultime de l’évolution des machines à traitement de l’information.
• Est-ce utopique ou mythologique de croire que ce genre de machine puisse atteindre dans un futur plus ou moins éloigné les capacités de l’intelligence humaine ? Probablement pas. Difficile de renier que ces rêves (ou cauchemars) habitant aujourd’hui nos consciences individuelles et collectives risquent fort bien de se produire, la pensée humaine ayant permis, plus souvent qu’autrement, de faire en sorte que la réalité dépasse la fiction.
• Croyons-nous que ce qui peut sembler pour le moment être une phase ultime du développement des capacités de traitement de l’information ne peut être qu’un point de chute pour une révolution plus grande encore ?
• On peut aisément imaginer le début d’un autre cycle de l’histoire humaine, où les capacités de l’intelligence humaine peuvent non seulement être atteintes, mais dépassées jusqu’à ce point que les «machines intelligentes» soient tellement plus intelligentes, a fortiori, qu’elles progressent encore plus rapidement dans l’évolution des connaissances que l’humain n’a pu jamais le faire. Serions-nous en mesure alors de nous adapter à ces progrès, d’autant plus que nous pourrions alors devenir asservis aux capacités excessives de ce «monstre» sur lequel nous avons perdu le contrôle ?
• À même titre que ces rêves (ou cauchemars) habitant aujourd’hui nos consciences individuelles et collectives risquent fort bien de se produire, comme nous l’avons posé précédemment, ces rêves ou cauchemars qui habiteraient celles des machines pourraient aussi se réaliser et donner à l’histoire un tournant tout à fait (in)prévisible. Ce ne serait plus alors uniquement l’histoire de l’humanité et l’histoire de son évolution. L’histoire se produirait aussi en dehors du contrôle exercé par les humains sur le déroulement des événements.
• Cela peut-il aller jusqu’à l’anéantissement des humains, voire à leur oubli, étape ultime où les machines nous gommeraient définitivement de leurs mémoires, pour elles-mêmes s’inventer leur propre mythologie, leur propre genèse ?
• Voulons-nous éviter cela ? Que pouvons-nous y faire ? Devons-nous déjà prévoir quelles mesures prendre ? Devons-nous nous inspirer des lois de la robotique, embryon de code de comportement, et envisager de placer un cadre normatif pour exercer un contrôle sur le développement des sciences de l’information afin d’éviter péril en la demeure ? Bref, devons-nous ajouter une dimension supplémentaire à la cybernétique et considérer qu’un éthique de nos relations avec les machines soit aussi nécessaire pour éviter d’être dépassés par notre propre création, en perte de contrôle ? Nous sommes des apprentis sorciers, après tout. En conséquence, est-ce vain de réfléchir à tout cela ?»

Avouons, après avoir collé ce texte à partir d’un document datant de novembre 2003, que certains des arguments, mis en évidence aujourd’hui en italiques, peuvent nous faire descendre des sueurs froides dans le dos. Ces questions doivent cependant être maintenues; elles peuvent aisément s’inscrire dans l’Arbre des possibles, pour paraphraser l’oeuvre de Werber.

Parenthèse qui se doit : Ce site inspiré de l’oeuvre de Werber mérite d’être consulté pour qui veut explorer le monde des possibles, notamment la Carte des futurs, même si cela pouvait conduire à des utopies. La partie de la carte qui couvrirait le mieux la portée de l’oeuvre de Kurzweil serait celle portant sur les avancées technologiques suivantes : maîtrise du cerveau, bionique et intelligence artificielle.

Même si les scénarios qui y sont couverts ne sont pas tous rédigés par des scientifiques, il y a la matière à réflexion pour bien des approches. Il serait souhaitable que certains lecteurs, maintenant avisés de l’existence de cet arbre expérimental, entrent en contact avec des scientifiques de leur réseau, pour continuer le développement des scénarios y proposés.

5. UN DES PÈRES DE LA SINGULARITÉ
Rencontrons S. Yudkowsky

Au hasard des promenades sur la blogosphère, est apparue cette traduction d’un essai de S. Yudkowsky, un des textes fondateurs décrivant un phénomène unique : la Singularité, dont les origines remontent déjà à une dizaine d’années.

Ce texte fondateur, maintenant publié par les Éditions Hache, soutient en fait l’oeuvre de Kurzweil. Intitulée Scruter la Singularité. En plus, elle nous réfère directement au texte original en anglais, intitulé Straring into the Singularity, pour ceux ou celles qui voudraient y accéder directement.

Cette traduction, repérée fin mai 2006, tombait à pic, puisque la grosse brique de Kurzweil venait tout juste d’atterrir dans ma bibliothèque personnelle, à côté de The Age of the Spiritual Machines. Cet auteur est radical : il déclare carrément la fin de l’Histoire, telle que nous la connaisssons. Selon lui :

• L’Histoire a commencé il y a trois milliards et demi d’années dans une flaque de boue, quand une molécule a fait une copie d’elle-même et est ainsi devenue l’ancêtre ultime de toute vie terrestre.
• Elle a commencé il y a quatre millions d’années, quand les volumes cérébraux se sont mis à augmenter rapidement dans la lignée des Hominidés.
• Il y a cinquante mille ans avec l’émergence d’Homo sapiens sapiens.
• Il y a dix mille ans avec l’invention de la civilisation.
• Il y a cinq cents ans avec l’invention de l’imprimerie.
• Il y a cinquante ans avec l’invention de l’ordinateur.
• Dans moins de trente ans, elle finira.

Radical, n’est-ce pas ? Pourtant, on reconnaît ici immédiatement la loi du retour accéléré de Kurzweil, comme si elle était appliquée cette fois ci à l’Histoire entière de l’Humanité, une espèce de loi de Moore de l’évolution de l’intelligence humaine qui aboutit à l’invention de l’intelligence artificielle, qui à un moment donné dépasse l’intelligence humaine. Et c’est au moment où les capacités de l’intelligence artificielle dépassent celles de l’intelligence humaine qu’on atteint la singularité, qui définit un changement radical de paradigme dans notre manière de penser, qui sera altérée par la présence d’une intelligence potentiellement supérieure. Point de rupture à considérer comme irréversible. À ce moment, selon Yudkowsky, «le monde dépassera notre compréhension».

On reconnaît également, en toile de fond, à travers cette trame historique qui s’accélère, un découpage similaire aux six époques, et comme élément important marquant le passage d’une étape à l’autre un changement de paradigme dans le traitement des informations.

Mais comment peut-on définir rapidement un monde qui dépasse notre compréhension, avec une image qui résume bien le propos ? Yudkowsky cite Larry Niven, dans la section 2.4. Cette analogie illustre très bien le problème de l’incompréhension.

Le plus grand défi pour un écrivain est un personnage plus intelligent que l’auteur. Ça n’est pas impossible. Des problèmes que l’auteur prend des mois à résoudre, ou à concevoir, le personnage peut les résoudre en un instant. Mais Dieu vienne en aide à l’écrivain si son personnage anormalement intelligent se trompe !

Larry Niven

Voilà que le problème est assez bien cerné, en effet. Comment pourrais-je écrire des dialogues pour un personnage plus intelligent que moi ? De manière corollaire, comment pouvons-nous imaginer ce que des machines plus intelligentes peuvent concevoir comme solutions technologiques, par exemple ? Pensez juste un peu au problème nanotechnologique de l’autoréplication ou des machines qui fabriquent des machines. Voilà, vous pensez aux films I Robot, La Matrice ou Artificial Intelligence, maintenant ? Quelles belles pistes à explorer aussi, à titre spéculatif !

Mais Yudkowsky, de manière similaire à Kurzweil, va encore plus loin dans son texte. Une fois qu’il a abordé ce phénomène de singularité, il aborde un autre thème qui nous rapproche de la réflexion de Arthur C. Clarke et des entités-machines : l’upload de l’intelligence humaine dans des machines. C’est le transfert de l’intelligence d’un individu qui peut survivre à son décès. Nous voilà dans le thème Cerveau dans la cuvette. Ce thème est cher à Douglas Hofstadter et Daniel Dennet, très bien développé dans leur essai Vues de l’esprit. Lire tout particulièrement le Chapitre 13 – Où suis-je ? – où le cerveau de l’auteur est hébergé dans une cuve. Pour vous mettre en appétit :

Et pendant que je retrouvais mon équilibre et mon son froid, je me dis : « Je suis assis ici, sur une chaise pliante, en train de regarder mon cerveau à travers un vitre… Mais au fait, m’interrompis-je, n’aurais-je pas du penser : “Me voici, flottant sur un liquide en ébullition, dévisagé par mes propres yeux ?” » J’essayai de penser cette deuxième pensée, j’essayai de la projeter dans la cuve, comme pour la tendre à mon cerveau, mais je ne réussis pas à effectuer cet exercice avec une conviction suffisante.

Daniel Dennett
Où suis-je ?
VUES DE L’ESRIT
Fantaisies et réflexions sur l’âme
Douglas Hofstadter et Daniel Dennett

On reconnaît donc ici des thème importants de réflexions sous-jacents au développement de l’intelligence artificielle : Qu’est que la conscience, qu’est-ce que la pensée, comment puis-je réfléchir à ce qu’est réfléchir ? Beaucoup de portes doivent maintenant commencer à s’ouvrir dans votre esprit singulier…

Le texte de Yudkowsky est donc un élément essentiel de compréhension du paradigme de la singularité. La version anglaise offre un avantage supplémentaire : elle est parsemée d’hyperliens conduisant vers d’autres sites permettant d’approfondir certains concepts clés; en fait, ce texte devrait être considéré comme incontournable, touffu d’idées nouvelles, même au niveau des mathématiques où on y explore même un système de numération alternatif pour mieux établir des ordres de grandeur et mieux comprendre la loi du retour accéléré. 

Mais toutes ces spéculations nous placent dans quel état d’esprit ? Comment la recherche scientifique pourrait-elle nous mener vers de tels résultats, qui nous semblent si improbables ? Quelle courant idéologique soutient toute cette pensée techno-scientifique ? Voilà, comme nous traitons de cybernétique, de cette relation Humains / Machines, nous atteignons une frontière encore plus étrange, post-cybernétique pourrait-on dire : le Transhumanisme, fondée sur des principes énoncés pas un autre avant-gardiste : Max Moore.

6. LIFTING SÉMANTIQUE CHEZ LES EXTROPIENS
Rencontrons Max Moore

En parcourant le texte Yudkowsky sur le site Transition, dont la facture visuelle est exceptionnellement sobre – qualité – nous aboutissons aussi dans le circuit transhumaniste – ou extropien – ce qui invite à une grande ouverture d’esprit, même si cette école de pensée peut soulever bien des remous.

Max Moore, fondateur du courant de pensée extropien, nous confronte à un terme qui pourrait aussi s’inscrire dans la galaxie de la singularité et du transhumanisme. Beau mélange, n’est-ce pas ? Le Extropy Institute a été fondé en 1991. Il se prétend une organisation éducative à but non lucratif. Pour y faire référence, j’avais aussi conservé une copie des principes extropiens dans un cartable de notes personnelles, à la même époque qu’a été rédigé le cadre de recherche présenté ci haut. Je n’ai jamais eu l’occasion d’explorer à fond les concepts y étant énoncés. Pourtant, en abordant l’essai de Kurzweil, et en constatant comment l’essai de Yudkowsky nous y conduit subtilement, il est tout à fait approprié d’effectuer un parallèle entre les concepts véhiculés par Kurzweil et ceux véhiculés par Moore, afin de nous faire un idée des idéologies sous-jacentes au développement potentiel des époques 5 et 6, proposées par Kurzweil.

Le terme extropien, espèce de néologisme près du barbarisme, faisait probablement soupçonner à bien des gens que d’étranges desseins puissent être sous-jacents à un tel terme, presque rébarbatif à première vue.

C’est probablement une des raisons pour lesquelles je n’y avais pas trop porté attention, depuis que je l’ai repéré, il y a quelques années. Mais en revenant sur le site, il semble qu’un lifting sémantique redonne un second souffle aux six concepts de Max Moore, qui les classe maintenant dans un nouveau paradigme coiffé de l’acronyme PP : Proactionary Principle – le principe proactif. Mais ce nouveau principe est aussi sous la plume de Max Moore, ce qui n’indique pas de rupture entre les anciens principes et les nouveaux semble-t-il.

Vous pourrez vous faire à l’idée en consultant aussi les six principes extropiens, qui se résumeraient ainsi:

• Progrès perpétuel : Recherche de plus d’intelligence, de sagesse et d’efficacité, dans un cycle de vie prolongé, et suspension des limites politiques, culturelles, biologiques et psychologies freinant le développement continu.
• Autotransformation : Affirmation d’un auto amélioration continue au niveau éthique, intellectuel et physique à travers une pensée critique et créative, dans l’apprentissage continu, la proactivité et l’expérimentation. Utilisation de la technologie pour atteindre ces fins;
• Optimisme pratique : Induire les actions par des attentes positives;
• Technologie intelligente : Concevoir et implanter des technologies non comme des fins en soi, mais comme des moyens d’améliorer la vie;
• Société ouverte : Supporter un ordre social favorisant la liberté de communication et d’action, l’expérimentation, l’innovation, le questionnement et l’apprentissage;
• Autogestion : valoriser la pensée autonome, la liberté individuelle, la responsabilité personnelle, l’autonomie, le respect de soi et parallèlement celui des autres;
• Pensée rationnelle : Favoriser la raison au lieu de la foi aveugle et le questionnement au lieu du dogmatisme.

Bref, ce lifting sémantique, ce changement d’orientation, peu en importe les raisons connues ou inconnues, nous amène à considérer que la singularité ne peut pas être abordée sans un état d’esprit ouvert, comme le proposait Moore dans ses principes extropiens et comme il le propose maintenant dans ses principes proactifs. Notre destin individuel ou collectif s’inscrit dans l’évolution et le partage de nos pensées; impossible donc de faire abstraction des penseurs avant-gardistes, quelques soient nos craintes ou nos espérances devant le développement des technologies de l’information, qui convergent presque inévitablement vers le développement de l’intelligence artificielle.

Pour le moment, en transition, nous sommes déjà sur la voie du développement d’une nouvelle intelligence collective en utilisant tous ces nouveaux outils sur le Web 2.O qui n’en constituent pas moins une plateforme documentaire collaborative où de plus en plus d’Humains s’expriment et partagent des idées.

7. CONCLUSION
Peut-il y en avoir une véritablement ?

Après avoir brossé un tableau impressionniste qui présente une constellation de penseurs s’intéressant aux futurs possibles, en nous interrogeant sur les limites où pourrait nous conduire le développement extrême des technologies de l’information, menant à l’intelligence artificielle, il faut donc retenir que la pensée de Kurzweil est avant tout avant-gardiste.

Ce genre d’ouvrage n’est pas aisément abordable pour la plupart des gens – on pourrait postuler que sa brique doit figurer dans des ouvrages d’érudition et d’approfondissement, dans le même genre que Gödel Escher Bach de Douglas Hofstadter, qui prennent des mois et des mois à lentement digérer.

Oui, à bien y penser, avant-gardiste est vraiment le terme approprié !

Enfin, si on désirait aussi situer Kurzweil dans le courant de la modernité, on pourrait considérer ici, après une période intermédiaire – qu’on pourrait qualifier de cybernétique (passage obligé où la relation Humain / Machine se développe), que la prochaine période historique sera le produit de ce nouveau courant de pensée  qu’inaugure assez bien Kurzweil. C’est précisément le transhumanisme.

On comprendra aisément que ce type de recherche fait peut-être un peu peur au gens; la futurologie est souvent inquiétante. Cependant, nous pourrions conclure que ce nouveau courant, à explorer, s’inscrirait aussi comme une suite logique du courant Troisième Vague de Toffler. Ainsi, nous pénétrerions à ce moment dans une Quatrième Vague, en quelque sorte, passage du Cybernétique au Transhumain.

Mais cela se réalisera-t-il ?

Les enjeux éthiques soulevés par cette fusion Humains / Machine sont très complexes; nous avons déjà de la difficulté à gérer les biotechnologies et les nouvelles techniques de reproduction humaines.

Qu’en sera-t-il lorsque nous devrons nous interfacer avec l’intelligence artificielle, ou que des machines pourront contenir une extension de notre propre intelligence ? C’est la raison pour laquelle je maintiendrais que nous devrions de plus en plus avoir un courant de pensée cybernéthique qui doit émerger, en songeant à toutes les conséquences de cet amalgame de percées technologiques. Nous de pouvons plus désormais uniquement parler de cybernétique, dès aujourd’hui.

8. APOSTILLE 2006.10.20 – La conscience humaine n’est peut-être pas au centre de l’Univers

Dans la section D’autres formes de vie, du chapitre L’invisible et de le devenir de l’Univers, Trinh Xuan Thuan – La mélodie secrète -  fait une allusion intéressante à l’oeuvre de Freeman Dyson, méritant d’être soulignées ici. Elle s’inscrit parfaitement dans la lignée des propos d’Arthur C.  Clarke, exposant un point de vue novateur avec son concept d’entités esprit.

« Il adopte le point de vue optimiste (Dyson) selon lequel la survie de la conscience et de l’intelligence ne dépend pas d ela nature particulière du matérie qui leur sert de support, mais de la complexité de l’agencement de ce matériel. Ainsi, nul n’est besoin des hélices enchevêtrées des molécules organiques d’ADN pour fabriquer un cerveau. Un nuage de grains de poussière microscopiques (ceux qui pèsent moins de 20 microgrammes et qui ne pourront jamais s’effondrer en trous noirs)  ou, si le proton est instable, une nuée d’électrons et de positrons, avec une organisation sophistiquée, feront bien l’affaire ».

Le type de pensée que nous pouvons entretenir sur la nature de la conscience gagne à être élargi; notre paradigme de conceptualisation étendu. La conscience pourrait être autre chose qu’une émanation propre à des individus, ou à des personnes. Nous avons beaucoup de chemin à faire pour cerner ce qu’est véritablement la conscience dans l’Univers, et pourquoi pas la conscience de l’Univers.

Ne nous méprenons par les limites propres à la nôtre uniquement, dans une perspective purement antrhopocentrique. Comme la Terre a déjà été considérée comme le centre de l’Univers, les Humains ont été considérés, et sont encore considérés, comme le centre de la Conscience. Peut-être aurons-nous un jour à envisager le déplacement de ce centre !

Niveau 201 | Bibliothèque de signets | Notes | Illustration

Kurzweil | Yudkowsky | Max Moore | Clarke | Transhumanisme | Singularité | H2M | Futurologie | Informatique Futur | Intelligence artificielle

1. Cette obligation de mentir cause un conflit dans la personnalité de HAL. La nature de ce conflit a déjà été exposée dans le billet précédent. En résumé, on pourrait se demander : Les ordinateurs peuvent-ils mentir ?

• Photo de Ray Kurzweil provenant de la fiche biographique sur le site The Singularity is Near.
• Photo de Eliezer S. Yudkowsky provenant de Foresight Nanotech Institute.
• Photo de Max Moore provenant de son article Principles of Extropy.

—- 

Ce billet vous a intéressé ? Lisez toute la série Anthropologue recherche cybernéticen, en commençant par le bas !

 

Anthropologue recherche cybernéticien – IV

LE FUTUR DE NOS SOUVENIRS
Retourner au futur à partir de notre passé ?

Comme il a déjà été expliqué dans le billet précédent, voici ce qui devrait être considéré comme le long texte inaugural – les inaugurations étant souvent de longs discours, doit-on s’en excuser… – de la série de billets qui seront sous la bannière du thème cybernétique.

Cet essai est présenté dans son intégralité, sans retouche, avec toute la maladresse et la naïveté d’un étudiant ayant probablement tenté d’impressionner son professeur, avec des propos parfois déroutants et peu structurés.

Le seule concession a été d’éliminer ses erreurs typographiques – à ce moment, pas de «traitement de texte», même si ce dernier put souffrir d’une quelconque «maladie»; sa première version fut d’ailleurs calligraphiée, car l’auteur disposait de bien peu de moyens, à cette époque !

En regard, sur la gauche donc, l’original, et sur la droite, le commentaire de son auteur âgé de 260 mois de plus…

PROPOSITION	COMMENTAIRE
2 Février 1985	260 mois plus tard…
Une conférence d’anthropologues à boutons
« L’accession à la conscience présuppose le franchissement des portes de l’imagination, dont les clés sont de nature symbolique. On peut faire passer ses idées avec soi… mais uniquement sous forme de symboles ». Raja FLATTERIE Psychiatre aumônier F. Herbert / B. Ransom L’Incident Jésus Robert Laffont 1981.	Tiré de la tétralogie Le Programme Conscience, dont le deuxième volet, L’Incident Jésus, réunit les thèmes de l’intelligence artificielle et de l’ordinateur devenu dieu. La qualité indubitable de cette oeuvre lui méritera une attention particulière dans les billets du thème cybernétique.
C’est le troisième congrès international de l’Association des anthropolo­gues à boutons. Non, il n’ont pas l’acné… mais une maladie juvénile et ludique : jouer sur les claviers d’ordinateurs et sur les boutons commu­tateurs alphanumériques qui recouvrent les murs l’immense salle de con­­trôle de la D.J.B. La Direction de la Jeunesse Bourgeoise est née suite au développement démesuré de l’industrie informatique. Surtout depuis que les arts et les sciences sociales découvrent les vertus de l’infor­matisation de la créativité et de la connaissance. Une équipe d’anthro­pologues passe actuellement à plusieurs générations d’ordinateurs et d’ultra micro-ordinateurs une batterie de tests d’associations symboliques.	Cette fabulation sur une Direction de la Jeunesse Bourgeoise, une jeunesse semblant rejeter un certain humanisme émanant du passé, est un peu délirante. On les perçoit comme des chantres de l’informatisation, sans conscience des dangers qui les guettent ! Seraient-ils plutôt uniquement les enfants d’une génération de riches informaticiens, profitant du développement de toutes ces nouvelles technologies de l’information ? Ce n’est certes pas la partie de l’essai qui se mériterait une bonne note !
Un conférencier, qui fait partie de cette équipe, va bientôt présenter sa communication. Il est extrêmement nerveux. Il sait que des conseillères et des conseillers administratifs de la D.B.J. sont venus entendre sa plaidoirie sur Justice et informatique.	Et il ne savent surtout pas quelle surprise il leur réserve, particulièrement, puisqu’il devrait à même titre que ses collègues encenser cette informatisation.
« Mesdames, Messieurs, bienvenue à ce troisième congrès. Sans plus tarder, notre première communication ce soir : Ordinateurs en délire ou délibérations binaires : deux poids, deux mesures dans la jurisprudence informatisée. Avec nul autre que Yan Lamark.	Les titres de thèse en sciences sociales sont réputés pour être parfois nébuleux ou alambiqués. Une étude sur les lieux communs a d’ailleurs déjà été faite; incroyable !
« Bonsoir à vous toutes et vous tous. Avant d’entrer dans le vif du sujet, je veux vous avertir que nos propos risquent d’en bouleverser certains et certaines. Nous pensions, depuis l’adoption des systèmes automatiques de jurisprudence électronique et de jugement informatisé, que tous les problèmes étaient réglés. En éliminant la subjectivité humai­ne, notamment les jugements de valeurs et l’enculturation des membres du jury, nous étions convaincus de mettre fin à l’injustice. Mais voilà que quelques faits suspects se sont présentés depuis quelques mois. Ainsi, le gouvernement a fait appel à une équipe chevronnée d’anthropologues pour tenter de comprendre cette énigme. Nous allons vous exposer brièvement l’historique de la situation.	Un des problèmes fondamentaux et récurrents du paradigme de l’intelligence artificielle est de déterminer s’il est possible de résoudre, de manière rationnelle et intelligible, le concept de lieu commun. Un excellent article de Douglas B. Lenat, Common Sense and the Mind of HAL, expose cette problématique, dans le collectif HAL’S Legacy, publié à l’anniversaire de naissance de HAL, le 12 janvier 1997.
« Depuis plusieurs années, comme vous le savez, les habitudes de notre société ont énormément évolué. Nous nous souvenons encore de ce dernier siècle où Marshall McLuhan, un penseur et communicateur canadien émérite, affirmait presque prophétiquement l’uniformisation des cultures et la naissance du ‘village global’. Plusieurs cultures furent en effet assimilées et englouties depuis ce temps, sous le poids des cultures dominantes.	Nul doute que Marshall McLuhan, a été prophétique avec son célèbre aphorisme Le médium est le message. Auteur de La Galaxie de Gütenberg – La genèse de l’homme typographique, il n’avait peut-être pas envisagé la blogosphère dans son état actuel.
« Les années 90 connurent une nouvelle vague d’enquêtes anthropologiques, étendues à de plus en plus de sociétés. La nouvelle génération d’anthro­pologues vivait d’immenses conflits entre les tenantes et les tenants de l’informatique et les traditionalistes qui véhiculaient une idéologie encore très humaniste de l’anthropologie. Ce n’était que le début des problèmes. On se souvient de la naissance de la Direction de la Jeunesse Bourgeoise qui, composée d’un consortium d’éminentes et éminents informa­ticiens de tous les pays, constituait l’aboutissement de cette jeunesse ayant passé leur adolescence dans les arcades où pullulent les jeux élec­troniques. Comme les multinationales du loisir firent de plus en plus d’argent avec leur petite monnaie, ils décidèrent d’investir plutôt dans l’informatisation générale de la société.	Cette vision quasi apocalyptique des arcades soulève tout de même un aspect très dérangeant de la relation entre les Humains et les Machines – non seulement les arcades pullulent, même les bars regorgent maintenant de machines à jeu, sur lesquelles on pense parfois avoir le dessus !
« Vers l’année 2050, les plus grands progrès furent accomplis, notamment l’émergence de l’intelligence artificielle. Pour citer un ancien écrivain de science-fiction des années 80 (ou littérature spéculative, comme nous disons maintenant depuis qu’elle est une des nouvelles disciplines de l’anthropologie, Frank Herbert prêtait ce propos à un des personnages de son roman L’incident Jésus :	Il n’est pas possible de rendre compte sommairement de l’état actuel de la recherche en intelligence artificielle. Les différentes percées surviennent dans un spectre étendu de disciplines, en partant des sciences cognitives, jusqu’à la recherche de pointe en informatique, en réseaux neuraux, en robotique ou en nanotechnologie, notamment. Il suffit de consulter l’entrée intelligence artificielle de l’Encyclopédie libre Wikipédia pour se rendre compte que toute tentative de définition de l’IA ne débouche en fait que sur un vaste portail, renvoyant à de multiples notions et de multiples conceptions.
« Il existe nécessairement un seuil de la conscience au delà duquel un créature consciente acquiert les attributs de Dieu.» Pensée de Raja FLATTERIE  F. Herbert / B. Ransom, op. cit., page 13.	Cette citation peut s’éclairer maintenant de l’essai audacieux The Age of Spiritual Machines, de Ray Kurzweil, paru en 1999. Le potentiel de dépassement, sinon d’usurpation des facultés humaines par les ordinateurs est notamment exposé dans l’épilogue When Computers Exceed Human Intelligence :
Cette phrase soulignée me fit beaucoup réfléchir. Surtout quand on reconnaît la puissance prêtée aux divinités par la plupart des peuples. Qu’adviendrait-il si l’intelligence artificielle usurpait ces pouvoirs ? Ce livre retrouvé dans la bibliothèque de ma grand-mère allait peut-être susciter un regain d’énergie dans ma réflexion. On les oublie trop sou­vent, ces livres, depuis que nous sommes toujours branchés sur nos terminaux intelligents ! Et on se rappelle que les premières difficultés connues avec l’intelligence artificielle étaient qu’elles échappaient à tout contrôle, déchaînant d’imprévisibles violences.	« Le prochain pas inévitable est une convergence de l’espèce inventrice de technologie avec la technologie computationnelle qu’elle a créé. À ce stade évolutif de l’intelligence sur une planète, les ordinateurs reposent eux-mêmes, au moins en partie, sur le design des cerveaux (ou organes computationnels) de l’espèce les ayant créé; à leur tour, ces ordinateurs deviennent imbriqués en s’intégrant dans les corps et les cerveaux de cette espèce. Région par région, le cerveau et le système nerveux de cette espèce sont migrés vers cette technologie computationnelle, remplaçant ultimement leurs organes de traitement de l’information. Toutes sortes d’enjeux pratiques et éthiques retardent le processus, mais ne peuvent pas l’arrêter ».
« Mais ce n’était que le début des problèmes ! En 2070, quand fut décrétée l’informatisation des sciences sociales de façon définitive, toute la connaissance, et plus particulièrement les monographies des peuples disparus depuis quelques années, furent enregistrées dans les puissantes mémoires des ordinateurs. C’était l’âge d’or de l’anthropologie, où enfin on pouvait s’asseoir confortablement dans un fauteuil et parcourir sur son écran toutes les données sur les peuples et conduire les analyses les plus approfondies de l’histoire de l’humanité. Mais l’année 2084 fut catastrophique.	Cela pourrait être une évocation au Projet XANADU – une bibliothèque électronique accessible mondialement par tous. Toutes les connaissances humaines sont disponibles en ligne. Aujourd’hui, on comprend très bien qu’il ne s’agit pas d’un ordinateur ou d’une intelligence centralisée, mais de mémoires distribuées sur un réseau. Quand à la sélection de l’année 2084, c’est juste un siècle après l’Orwellien 1984, bien sûr !
« Pendant tout ce temps, l’intelligence artificielle analysait tout ce que les anthropologues accomplissaient sur les terminaux. Surtout dans le but de cerner leurs intérêts et leur idéologie. Les banques centrales de données commencèrent à être en mesure d’analyser l’imaginaire des anthro­po­logues et à comprendre leur vision du monde – weltanschauung. Ils subissaient le même sort qu’ils avaient fait subir au reste de l’humanité pendant des générations. Un bon matin, l’ordinateur central de la D.B.J. décida de contrôler les informations qu’ils commencèrent à distribuer au compte-gouttes.	Nous sommes déjà analysés, sur le Web; cette analyse n’est pas innocente, comme on le sait. Cerner nos intérêts et nos idéologies : les cybermarchands ont déjà compris cela ! Cette vision pessimiste du contrôle de l’information n’est pas tout à fait en inadéquation avec le monde d’aujourd’hui.
« Les anthropologues devinrent évidemment mal à l’aise et délaissèrent momentanément l’analyse des sociétés du passé pour tenter de comprendre ce qui se passait maintenant. Ils avaient surtout découvert une grande défaillance à l’intelligence artificielle. En effet, depuis 2060, la jurisprudence était informatisée et les juges avaient été remplacés par des ordinateurs qui interrogeaient les témoins lors des procès. Des caméras analysaient leurs attitudes corporelles, pendant qu’ils répondaient aux questions posées par des synthétiseurs de voix. Une analyse multivariée était conduite et de régression linéaire en régression linéaire, l’ordinateur tentait de discerner le vrai du faux. Mouvements des yeux, des sourcils et des mains étaient soigneusement examinés sous l’œil attentif de la caméra. On avait poussé la sophistication du système à un point tel qu’on utilisait les études préalables menées sur différentes cultures pour tenir compte de l’enculturation gestuelle des témoins. Et l’ordinateur préparait toujours sa question en ayant parcouru toutes les jurisprudences relatives au crime dont il était question dans le procès. Ces informations centralisées étaient facilement accessibles.	On reconnaît ici plusieurs thèmes de recherche en intelligence artificielle: a. reconnaissance vocale; b. reconnaissance visuelle; c. synthèse vocale. En ce qui a trait aux capacités émotives d’un ordinateur, dans l’interprétation des faits, on peut se référer à l’article de Rosalind W. Picard, du MIT Media Lab, Does HAL Cry Digital Tears? Emotions and Computers. En ce qui concerne le traitement simultané d’une très grande quantité d’informations, à l’aide d’analyse mutivariée sur des systèmes complexes, rappelons que les ordinateurs continuent de suivre la loi de Moore, depuis plus de 40 ans. Rien donc dans cette section qui ne soit pas plausible, même si ce portrait d’une jurisprudence administrée froidement par des ordinateurs constitue un scénario cauchemardesque sorti tout droit de la tête d’un étudiant en anthropologie.
« Tout cela semblait fonctionner à merveille jusqu’à ce qu’une étudiante en anthropologie, plutôt mystique, sceptique et traditionaliste, continue à conserver les rares découpures de journaux de l’époque. Ce que personne ne faisait plus. Et la justice informatisée était une de ses marottes. Un soir, en sortant un dossier de son classeur, tous ses découpures tombent sur le sol. Horreur ! En les ramassant, il découvre que deux jugements tout à faits différents sont rendus pour deux crimes absolument de nature identique… Ce qui le laisse très perplexe…	Ne reconnaît-on pas ici, en filigrane, cet étrange Charles Fort, personnage fort besogneux dans Le matin des magiciens, de Pauwels Bergier ? En ce qui a trait à l’incident de la découpure, il est inspiré d’une coïncidence assez extraordinaire, qui sera relatée dans le billet Et pourtant, M. Reeves, le hasard… à paraître dans le mois courant, sous le thème Astrophysique.
« On pourrait dire que c’est ici qu’a germé notre projet de recherche. Cette étudiante, qui voulait vraiment comprendre ce qui se produit, suivit les recommandations d’une de ses enseignantes. Elle alla s’inscrire au cours Histoire de la civilisation informatisée et Histoire de l’informatique. En plus de se faire un devoir de participer activement à un séminaire Ethnographie traditionnelle et ethnographie informatisée. Elle demanda par la suite à un collègue de son département d’entreprendre des batteries de tests d’associations symboliques sur plusieurs générations d’ordinateurs pour mieux cerner leur vision du monde à l’intérieur de leurs systèmes logiques. Heureusement que l’intelligence artificielle se prêta gentiment à ce jeu. Car les ordinateurs ne savaient pas ce que cette étudiante avait derrière la tête. »	Ces batteries de tests s’inspirent de ceux que le docteur Chandra administrait à HAL, dans 2010 Odyssée deux, second volet de la tétralogie 2001-3001 d’Arthur C. Clarke. « Le Dr. C. explique qu’en termes techniques, HAL s’est retrouvé pris au piège d’une boucle Hofstadter-Moebius, une situation apparemment assez fréquente pour les ordinateurs évolués pourvus de programme de motivation autonomes ». Dans la magnifique édition, définitive pour utiliser un anglicisme,  2001-3001, les Odyssées de l’espace. Édition Omnibus, Paris, page 280.
La salle commença à s’agiter. Des rumeurs de protestation se promenèrent d’un siège à l’autre. Surtout dans le coin où les représentantes et les représentants de la D.J.B. commencent à craindre d’y perdre la face. Ils ont même des affiches qu’ils tiennent scrupuleusement cachées sous leurs sièges, prêts à les brandir d’un moment à l’autre.
« Voici ce que nos recherches nous permettent de conclure pour le moment. Nous avons toujours attribué aux humains différentes cultures et entretenu l’illusion que l’informatisation pouvait nous aider à com­prendre la diversité culturelle des peuples. Nous nous sommes aperçus lors de notre recherche que l’émergence de la culture informatique est ap­parue vers 1960 et que différents langages se sont développés. Ce qui nous porte à croire que les systèmes logiques non uniformisés, combinés avec la diversité culturelle des programmatrices et programmateurs de cette époque auraient provoqué l’inégalité. Ainsi l’émergence de l’intel­ligence artificielle pourrait être considérée comme un… »	Ici, on perçoit une mise en relief des différences entre les cultures – autant dans l’humanité qu’entre les machines. Quelques années à peine, suivant la rédaction de cet essai, commençait à sévir cette fameuse Guerre sainte entre le PC et le MAC. Umberto Eco, le brillant sémioticien, avait d’ailleurs effectué un parallèle intéressant entre les interfaces textuelles et les interfaces graphiques, en mars 1997, dans un article phare de Wired Magazine, The World according to Eco. « Mac est catholique, avec de somptueuses icônes, et la promesse d’offrir à tous la chance d’atteindre le Paradis en suivant une série d’étapes faciles [...]. DOS, d’autre part, est Protestant, il permet une interprétation libre des Écritures, demande des décisions personnelles difficiles… et prend pour acquis que tous ne peuvent être sauvés – en traduction libre abrégée ».
Yan Lamarck est violemment interrompu par les clameurs qui montent de l’assistance.
« Non à l’anthropologie humaniste. - Les ordinateurs, pas le cœur. -  Binaire, pas humanitaire. »
Clic. Clic.	Conception très simpliste, à l’époque, de l’interface avec la machine; et surtout la fin de message, avec une clef RETURN. C’était la décennie des années 80… écrans monochromes en vert, sur 24 lignes et 80 colonnes.
DJB À ÉCRAN  > Vous êtes prié de cesser la rédaction de ce texte. Le programme central de traitement de texte considère votre travail inapte à traduire les avantages de l’informatisation des sciences humaines. Nous acceptons les débats polémiques mais vous suggérons d’écrire en premier la communication de la D.J.B. RETURN PLEASE >	Nul doute qu’un réseau centralisé pourrait usurpé la liberté idéologique des écrivains dilettantes qui s’y relient. Cette perspective semble éloignée de la liberté apparente d’expression sur la blogosphère. Il faudra plutôt revenir sur ce qui ce passe derrière la grande muraille de Chine. S’agit-il ici d’évoquer uniquement les pratiques imposées à Google pour ce pays – pour constater qu’Internet n’est pas du tout dénué de barrières idéologiques. Nous y reviendrons dans le billet Ça ne tourne pas rond dans tous les coins, qui paraîtra sous le thème Blogosphère.
Ce matin, j’ai décidé d’aller au marché aux puces et de me dénicher un de ces anciens micro-ordinateurs. L’antiquaire me dit : « Vous ne pouvez être branché sur l’intelligence centrale. - Justement. Je veux terminer en paix mon livre sur les avantages de l’informatisation de l’anthropologie et j’éprouve actuellement des problèmes de rédaction. Combien celui-ci ? - Cent dollars. Avec l’écran, l’imprimante et … - J’achète ! »	Amusant de constater que les citoyens du futur désireraient brader de vieux ordinateurs afin de ne pas être reliés au grand réseau. Mais cela ne nous effraie-t-il pas parfois de devoir se claquemurer derrière le mur de feu de son fournisseur de service, en plus du mur de feu matériel de son routeur du mur de feu logiciel de son ordinateur Et cela ne suffit parfois pas encore.
ClodiMedius Étudiant au premier cycle Département d’anthropologie	L’auteur n’a jamais terminé ce premier cycle, occupé aujourd’hui dans une profession tout à fait différente… mais aussi passionnante.

Après avoir exposé ces réflexions personnelles, tout à fait embryonnaires, considérons que ces questions se posant à l’époque, dans l’esprit d’un étudiant, se posent encore aujourd’hui, même pour un chercheur sans papiers.

Ce qui différencie cet essai, écrit par un étudiant il y a vingt d’ans, d’un essai qui pourrait être écrit par un étudiant maintenant, c’est qu’il y a plus de sources d’informations pour parfaire notre réflexion; sans la contribution des autres, la réflexion est vaine. L’intelligence n’est pas le propre d’une personne, mais plutôt la capacité d’entrer dans le flux d’échange des idées avec les autres. Notre relation avec les machines, dans un sens élargi, s’avère bénéfique. Les ordinateurs et le réseau internet – machine à transmettre l’information, en quelque sorte – nous aident à échanger.

Mais au moment où l’intelligence combinée des machines – ou voire d’une seule machine – dépassera notre intelligence, d’autres questions cruciales émergeront sans doute dans bien des esprits. Nous n’osons peut-être les formuler dans l’immédiat, en reportant cette mutation dans un futur éloigné, mais qui est probablement beaucoup plus près qu’on pense

Ne peuvent donc que s’ajouter, à celles naïvement posées dans cet essai, de nouvelles questions qui n’en ont pas moins un caractère inquiétant : Faut-il vraiment craindre notre perte du contrôle sur les machines – nos propres créatures – et continuer à être vigilants ? Cette attitude est-elle excessive ? Les Humains sont-il en danger ?

Nous pourrons certainement approfondir un peu plus ces questions dans le quatrième volet de cette série de billets sur la cybernétique, qui traitera de transhumanisme et de singularité.

Niveau 201 | Bibliothèque de signets

Intelligence Artificielle | Informatique Futur | Interface Machine Cerveau

Ce billet vous a intéressé ? Lisez toute la série Anthropologue recherche cybernéticen, en commençant par le bas !

 

Anthropologue recherche cybernéticien – III

La rencontre…
Avec l’aimable autorisation de Cetusss ©

AIMER LES ROBOTS
Pourquoi pas ?

Écrire sérieusement sur la cybernétique et les robots peut être une chose; se laisser porter au hasard sur la blogosphère, cette gigantesque machine – définition élargie ici – composée de tous les ordinateurs et de tous les humains, c’est est une autre…

Peut-être pourra-t-on accepter qu’un blogueur qui tente parfois de se dissimuler derrière ses prétentions scientifiques puisse aussi avoir un côté un peu plus léger, non ? Ce billet est anecdotique, enfin, juste parce que je viens de suivre un lien, pour simplement consulter les étiquettes associées au mot robot (1), sur Flickr…

Plus de 40 000 photos de robots, croirez-vous ? Hallucinant ! Il fallait vraiment être chanceux pour aboutir rapidement sur la plus originale. Pas besoin d’entrer dans le détail des détours nécessaires pour repérer cette photo charmante. Nous qui nous demandons tous et toutes quel est l’avenir de notre relation avec ces créatures, sorties tout droit de notre imagination. Et bien, voilà, une espèce de Valentin Robot avec une étincelle qui allume dans le coeur du robot, n’est-ce pas charmant après tout ?

Une espèce de déchirure, d’anfractuosité, dans le tissu cosmique du sérieux vient de se manifester, une fois de plus ! Il y a quelque chose de rafraîchissant ici. Comme ce billet sur la cybernétique qui s’en vient est un peu ardu, j’ai décidé que le mois de juin, qui se pointe le bout du nez, mérite un peu de légèreté. Suite à une petite lettre sympa, l’auteur de la photographie ci haut – Cetusss – m’a donc permis de le citer visuellement, C’est fait !

Même si on a l’habitude d’insérer un hyperlien si facilement sur le Web, à partir de n’importe où, il faut que cet hyperlien ne soit pas simplement le renvoi à un simple fichier. Dans le cas où il s’agit d’oeuvres personnelles, il faut bien rendre à César ce qui appartient à César, et dans ce cas-ci à Cetusss ce qui appartient à Cetuss. Vous pouvez sans doute vous imaginer facilement que pour beaucoup de blogueurs et de blogueuses naissent de nouvelles relations en collant ainsi un lien. Tiens, me voilà en train de faire une anthropologie de l’hyperlien, pourquoi pas ?

C’est bien amusant … alors, si ce blogue est parfois lourd, un petit courant d’air fera du bien ! Une première brise de juin, tout en s’inscrivant dans le thème cybernétique. Avouons que la cybernétique peut aussi être abordée un peu plus légèrement !

Niveau 201 | Bibliothèque de Signets | Notes

Robot

(1) En accédant au mot robot, dans Flickr, il est possible d’accéder à trois sous-catégories différentes : Most relevant, Most Recent et Most Interesting. Si seulement l’examen de ces photos par un seul étudiant ou une seule étudiante en anthropologie ou en sciences sociales pouvait donner le goût d’entreprendre un étude sur les représentations populaires du robot dans la photographie, ce billet aurait servi à quelques chose, au moins !

Révision 1.1 – 2006-06-02

 

Anthropologue recherche cybernéticien – II

 

Will Smith sa faufilant à travers une armée de robots… dans I, Robot

Chronique d’une mort annoncée…

Avant de présenter le premier billet de fond dans la série cybernétique, le 2 juin, faisons un petit détour dans la culture populaire. La cybernétique étant un champ d’investigation très large, dans lequel peut s’intégrer une réflexion sur de la relation entre les Humains et les Machines, il nous faudra aborder ce sujet avec grande ouverture d’esprit et circonspection, tout à la fois. Il nous est encore difficile d’envisager cette idée de l’avènement d’une civilisation où les robots feraient partie intégrante de la culture ambiante.

Il suiffit pourtant d’effectuer quelques recherches pour constater que de la littérature sérieuse existe sur ce sujet.

Cependant, si on s’en tient au niveau de la culture populaire ou de l’actualité, peu de personnes ont entendu parler des Trois lois de la robotique, de Isaac Asimov, par exemple. Peu d’articles élaborés sur ce sujet peuvent nous orienter sur les maintes implications éthiques et sociales de ces trois lois; un article général – en anglais – sur l’encyclopédie libre Wikipédia, brosse un tableau très sommaire.

On a aussi traité de ces lois dans un film à large diffusion, récemment : I Robot; ou encore dans un film un peu plus subtil, de Steven Spielberg, Artificial Intelligence. Ce qui est un peu inquiétant, en consultant le site web officiel de ces films, c’est que nous demeurons vraiment en surface – du divertissement – rien d’extraordinaire à y apprendre; pourtant, ce sujet vaste de l’avènement de la robotique et de l’intelligence artificielle mériterait un traitement plus approfondi. Ironiquement, même la Warner Bros n’a jamais livré son site Web sur le film de Spielberg; faut-il croire que ce sujet ne fait pas courir les foules ou que les inquiétudes soulevées dans ces films ne seraient pas fondées… On y verra tout au plus des oeuvres purement spéculatives.

Un livre amusant a été publié à l’automne 2005 : How to survive a Robot Uprising; malheureusement, ce genre de livre est loin de rendre service et ne peut orienter notre pensée de manière prospectiviste. Tout au plus, y retrouve-t-on encore une fois une forme de diversion. Dans le même ordre d’idées, on commence simplement à s’amuser avec des petits robots jouets, dont l’ancêtre sophistiqué est Aibo de Sony – qui en abandonne d’ailleurs la vente – ou on s’intéresse à d’autres gadgets – qu’on coiffe de l’étiquette robotique, ne serait qu’un aspirateur qui fait le tour de l’appartement en catimini pour l’entretien, ou même une tondeuse à gazon qui fait le tour de la pelouse, sans qu’on aie à s’en occuper.

Nous vivons en ce moment un très petit tournant de l’histoire de la robotique, qui passe presque inaperçu… cependant pour les historiens du futur, il pourra prendre une saveur toute particulière.

C’est une Première rubrique nécrologique robotique : la mort annoncée de notre petit chien robot préféré : Aibo. Le dernier modèle produit en mars 2006 se verra retiré son oxygène logiciel en mars 2013. Un mois de deuil, à venir, pour le premier toutou robot pris en grande affection par l’humanité. Une musique douce jouait dans la bibliothèque, au moment où cette information a été repérée; un petit pincement de coeur, vraiment… une page d’histoire de la robotique est en train de se tourner. La page Web donnant cette information a valeur historique. Vous devriez imprimer cette page avec PDF Writer. Dans 20 vingt ans, elle prendra de la valeur.

IN MEMORIAM

Ici gît le premier petit toutou robot chéri.
Que son souvenir se perpétue à tout jamais.
Dans la mémoire de l’Humanité.
Comme le premier petit animal électronique.
AIBO est mort. Vive QRIO !

Outre la disparition de la première figure emblème réelle de la nouvelle mythologie robotique, peu de choses, dans la culture populaire, qui puisse vraiment nous orienter vers d’éventuels problèmes éthiques, auxquels les Humains devront faire face un jour si la robotique continue à se développer.

Encore moins pour réfléchir aux conséquences multiples du développement de l’intelligence artificielle. Mais peut-on se contenter de rester ainsi en surface, en faisant semblant que rien de ceci ne nous concerne ? Et avez-vous déjà entendu parler de la singularité et transhumanisme ?

Ce sera le thème du prochain billet !

En attendant, pour vous divertir, si cette triste nouvelle vous donne la migraine et vous étourdit un peu, pourquoi ne pas consulter le Dr. Joanne Pransky, première robopsychologue. Le contenu de ce site est tout à fait étonnant pour passer à un niveau 201 !

—

Ce billet vous a intéressé ? Lisez toute la série Anthropologue recherche cybernéticen, en commençant par le bas !

 

Anthropologue recherche cybernéticien – I

Revenir à son futur… 

Aujourd’hui, c’était une plongée vingt ans en arrière. Depuis quelques mois, le projet de retrouver un essai proposé à la revue scientifique Anthropologie et Sociétés ne cessait d’être repoussé d’une semaine à l’autre; le démarrage de ce blogue ayant nécessité plus d’attention que prévu.

Pourtant, il n’y avait qu’à sortir de la pénombre ce gros cartable de travaux, rédigés pendant un séjour universitaire; belle activité pour occuper un samedi gris. À la lumière d’une seconde lecture de l’essai en question, avec vingt ans de recul, l’idée saugrenue de le publier sur la blogosphère s’est transformée en un nouveau projet : faire de cet essai la tête de proue d’une nouvelle série de billets sur le thème cybernétique.

Bien qu’il soit maladroitement coiffé du titre Une conférence d’anthropologues à boutons, avec un certain recul cet essai semble toujours se qualifier comme une réflexion embryonnaire sur les rapports entre Humains et Machines.

Mais une question demeure pourtant en suspens : Pourquoi un blogue focalisé sur les thèmes astrophysique, astronomie et cosmologie devrait-il comporter des billets sur le thème cybernétique ?

La rédaction des billets Calculons-nous mieux que l’Univers confirme que la relation entre les Humains et les Machines fait définitivement partie de l’équation cosmologique; les ordinateurs sont en effet des machines : une extension de nos sens et de notre intelligence, pour le moment. Ces ordinateurs risquent éventuellement d’excéder notre intelligence dans un avenir assez rapproché – peut-être trop, même.

Ray Kurzweil, à ce titre, est un des auteurs les plus prolifiques à ce sujet. Ses essais ne cessent de nous en prévenir. Nous référerons souvent à son oeuvre dans cette nouvelle série de billets, à partir du 2 juin 2006.

Du côté francophone, pour se préparer à fréquenter cette série, l’essai de Céline Lafontaine, L’empire cybernétique – Des machines à penser à la pensée machine, constitue le point de départ par excellence pour méditer sur la cybernétique; sortant surtout du cadre restrictif de la pensée de Norbert Wiener. En se référant au texte de présentation de son ouvrage, « il s’agit de reconstituer, avec précision, la généalogie d’un paradigme qui fut et demeure très influent, aussi bien sur le vieux contient qu’outre-Atlantique ».

Effectivement, de plus en plus influent, même si ce terme est souvent utilisé sur la blogosphère, sans justification véritable, en constant le nombre incroyable de renvois qui s’y rattachent; environ 178 000 pages comportent ce terme au moment de la publication de ce billet!

En anglais, quand il s’agit d’étudier les communications entre machines, on a créé l’acronyme M2M (Machine to Machine); dans le milieu des affaires, on utilise B2B (Business to Business)…  dorénavant l’acronyme H2M (Human to Machine) désignera globalement le paradigme cybernétique.

Enfin, si cet essai retrouvé a été retenu, autant pour son âge que pour sa naïveté, c’est en relisant aujourd’hui cette gentille lettre manuscrite, faisant part de l’impossibilité de publier ce texte, un commentaire agréable, oublié depuis, refait surface. On avait évalué, à cette époque, que « la forme d’abord est plaisante, mais il y a aussi cette façon de glisser en douce comme une espèce de mise en garde, ou tout au moins de désigner discrètement une certaine voie de réflexion ».

Ainsi, le 2 juin, vingt ans plus tard, un nouvelle version de cet essai sera publiée, accompagnée d’une actualisation de cette mise en garde, dans une présentation spéciale, en côte à côte.

Ce sera donc l’amorce d’un troisième virage pour le blogue univers zéro un 101, le dernier étant d’avoir quitté le «regretté» MSN Spaces. À surveiller…

Bibliothèque de signets sur ce thème