1. RÉFLÉCHIR AU FUTUR
Une forme de cosmologie spéculative
« À présent, dans les étoiles, l’évolution poursuivait de nouveaux buts. Depuis longtemps, les premiers explorateurs de la Terre avaient atteint la limite de la chair : dès que leurs machines furent supérieures à leur corps, il émigrèrent. Ils transférèrent d’abord leur cerveau, puis leurs pensées seules, dans des nouveaux abris de métal et de gemme dans lesquels ils parcoururent la Galaxie. Ils ne construirent plus de vaisseaux spatiaux. Ils étaient eux-mêmes des vaisseaux spatiaux.
Pourtant, l’âge des Entités-machines fut bref. Au cours de leurs incessantes expériences, ils avaient appris à emmagasiner le savoir dans la structure de l’espace, et à préserver leurs pensées pour l’éternité dans des treillages gelés de lumière. »
Arthur. C. Clarke
Prologue Les premier-nés
3001 : L’odyssée finale
L’âge des entités-machines fut bref ? Ah, comme cela nous pousse si loin devant, à travers une espèce de vision semblant tout à fait utopique, où nos pensées humaines pourraient quitter notre substrat biologique. Après avoir été transférées en première étape dans des entités machines, et finalement détachées de celle-ci, pour ne demeurer que sous forme d’entités-esprit qui hanteraient l’Univers, il pourrait ne plus y avoir aucune trace d’existence humaine préalable à la limite, mais la conscience serait alors répandue dans l’Univers.
Votre première pensée : «Ce blogue vient de prendre un virage vers la science-fiction». Sans avis préalable ? Non, pas tout à fait.
Au contraire, vous pourrez constater que ce qui est communément appelé science-fiction peut aussi être traité très sérieusement, à titre de d’outil de science-spéculative, comme un levier sur lequel on s’appuie pour explorer l’état actuel des sciences et établir si une connexion plausible peut être établie entre ce qui est proposé par des auteurs réputés et ce qui se produit dans le monde de la science-réelle. Donc, effectuons un glissement progressif du fictif vers le spéculatif et aboutissons dans le réel ! Préparez-vous à un itinéraire inhabituel où vous devrez sortir des sentiers battus.
Cet exergue de Clarke où il est question d’entités-machines peut sembler incongrue, alors que cette série de billets se tourne vers une réflexion sur la cybernétique. Bon nombre d’essais d’interprétation spéculent sur le sens véritable de 2001 Odyssée de l’espace; mais notre attention n’est pas souvent attirée vers le cycle complet, la tétralogie 2001-3001, nous faisant passer à côté de l’essentiel de son propos, pourtant : la place de l’intelligence dans l’Univers.
L’attention des critiques est plutôt portée sur les sombres motifs sous-jacents au mystérieux attentat perpétré contre l’équipage du vaisseau en route vers Jupiter, suite à la découverte d’un étrange monolithe sur la Lune. HAL, en tant qu’être doué d’intelligence artificielle, porte en lui le germe d’une révolte induite par son obligation de mentir (note 1) à l’équipage en leur cachant les motifs véritables de la mission, notamment : première perte de contrôle sur une création de l’Humain.
Mais peu d’attention est portée sur un second drame, cette soudaine multiplication du monolithe, par autoréplication, en accord avec des concepts énoncés par Von Neumann. Ce second événement marquant est aussi éludé, sinon occulté, et peu de gens peuvent en saisir le sens véritable. En fait, ce pourrait être la conséquence d’une multiplication insensée de machines intelligentes, ou à la limite de nanocréatures : seconde perte de contrôle sur une création de l’Humain.
Une grande leçon devrait être tirée de cette oeuvre, qui pourrait se résumer ainsi : elle est un avertissement précurseur des conséquences ultimes du développement de l’intelligence artificielle; plus particulièrement en parallèle avec l’émergence d’un paradigme émergent que nous explorerons un peu plus loin : la singularité.
Pourquoi donc projeter notre réflexion si loin alors que le développement de l’intelligence artificielle est encore dans son enfance ? Et que diable penser d’un potentielle migration de l’intelligence humaine vers des machines, à la limite dans le tissu énergétique même de l’Univers ? On peut répondre à ces deux questions très rationnellement et de manière très intelligible.
Après avoir accepté d’exposer le point de vue naïf d’un étudiant en anthropologie, rédigé en 1985, rappelons que nous avions terminé le billet précédent de cette série en nous posant des questions qui pourraient être d’un caractère inquiétant :
- Faut-il vraiment craindre notre perte du contrôle sur les machines – nos propres créatures – et continuer à être vigilants ?
- Cette attitude est-elle excessive ?
- Les Humains sont-il en danger ?
2. 2006 À 2026
Un second exercice
Comme dans le billet précédent de cette série, nous reconduisons un autre exercice 20 ans plus tard – aujourd’hui en 2006 – et nous demandons ce qui se produirait sur un horizon de 20 ans en avant nous menant jusqu’en 2026 - encore loin de 3001, admettons; mais nous désirons tout de même nous y risquer. Les éléments d’analyse de ce billet nous situent donc au milieu d’une fenêtre de 40 ans d’histoire humaine, qui se terminerait lorsque l’auteur de ce blogue aurait 73 ans ! Y serons-nous, espérons, pour conduire un troisième exercice !
Un changement de paradigme majeur est en vue, s’aperçoit-on, en pénétrant dans le monde fascinant et inquiétant à la fois que nous propose un des auteurs les plus brillants de notre génération, Ray Kurzweil. Une fois que vous aurez pris connaissance des implications de son propos, vous relirez l’exergue de Clarke dans un tout autre esprit, dans une toute autre perspective.
Ray Kurzweil, auteur de l’essai The Age of Spiritual Machines, vient de commettre un nouvel essai, une brique de près de 650 pages, qui est tout à fait dans la lignée de l’avant-garde : The Singularity is Near, sous-titrée When Humans Transcend Biology.
Tenter de résumer brièvement un essai de cette nature est un défi, puisque la densité de son propos est sans équivoque : passer à travers un tel ouvrage d’érudition nécessite un effort intellectuel qui peut s’étendre sur plusieurs semaines, sinon plusieurs mois. Mais comme dans la plupart des essais bien structurés, on peut toujours localiser en introduction une synthèse, un tableau où l’essentiel est résumé.
Dès lors, en prenant connaissance de ce cadre analytique, on constate immédiatement le mûrissement des propos de Kurzweil, depuis son ouvrage précédent. Cette maturation aboutit à une typologie spécifique qui deviendra probablement une source de référence permettant de classifier les étapes de l’évolution humaine, à l’aide d’une nouveau paradigme éclairant : les six époques vers la Singularité.
3. SIX ÉPOQUES VERS LA SINGULARITÉ
Rencontrons Ray Kurzweil
En toile de fond, Kurzweil a établi dans son essai précédent un cadre d’analyse postulant que l’évolution technologique est une courbe exponentielle, avec certaines similitudes à la loi de Moore qui est cependant linéaire. Pour en connaître d’avantage à ce propos, une excellente recension de ce livre expose les grandes lignes de cette loi du retour accéléré, dans la revue en ligne Automates Intelligents. Inutile de reprendre ce qui est déjà bien fait !
En s’appuyant sur ses trois lois du développement accéléré, Kurzweil nous entraîne maintenant dans une révision de l’histoire de l’Humanité, mais en utilisant une approche tout à fait prospectiviste. Il redessine donc notre parcours en six époques distinctes, séparées chacune par une période de transition constituant en quelque sorte une fenêtre d”opportunité pour des développements technologiques, à partir du physique jusqu’à l’électronique :
- Physique et Chimie : Cette période se caractérise par le stockage des informations dans les structures atomiques – elle est suivie par l’évolution de l’ADN;
- Biologie : Suite à la période de transition précédente, le stockage des informations se fait maintenant dans l’ADN – cette époque est suivie par l’évolution du cerveau;
- Cerveaux : Maintenant, nous avons atteint le stockage de l’information dans les constellations de connections neuronales – cette période laisse place ensuite à l’évolution technologique, produit de l’activité intellectuelle;
- Technologies : Nous voilà donc aujourd’hui, bénéficiant du stockage de l’information sur des plateformes matérielles et logicielles – il ne nous resterait ensuite qu’à atteindre une maîtrise technologique des méthodes biologiques (incluant l’intelligence humaine) pour passer à l’époque suivante;
- Fusion des Technologies et Intelligence Humaine : nous voilà ayant franchi un premier pas dans le futur puisque nous pourrions alors bénéficier des méthodes de la biologie (incluant l’intelligence humaine) intégrées dans la base technologique humaine (en expansion exponentielle) – cette époque serait alors suivie dune vaste expansion de l’intelligence humaine (à prédominance non biologique) qui se répandrait à travers l’Univers;
- Éveil de l’Univers : Nous voilà donc à l’époque ultime de ces projections dans le futur, où des matrices de matière et d’énergie dans l’Univers deviennent saturées de processus intelligents et de connaissance. Ce serait alors une époque où le support de l’intelligence ne repose plus sur des substrats biologiques, où l’identité humaine pourrait subir de grandes mutations.
L’enchaînement de ces 6 époques nous mène tout droit à la Singularité, ce nouveau paradigme dont nous entendrons parler de plus en plus; en fait, la singularité marque un espèce de point de non retour où l’intelligence humaine est dépassée. Il est même parfois difficile d’imaginer ce que des entités plus intelligentes pourront alors concevoir, en risquant de provoquer une accélération sans précédent de l’Histoire.
Cette singularité débuterait donc à l’époque 5; à l’époque 6, l’intelligence ou la conscience pourrait alors se répandre très rapidement dans le reste de l’Univers. Voilà donc un sommaire syncopé certes, mais qui permet déjà de relire l’exergue de Clarke avec une nouvelle paire de lunettes. Tentez maintenant l’expérience, à la lumière de ce qui vient d’être dit. Si vous comprenez différemment cette citation, le premier objectif de lecture vient d’être franchi !
Pour toute personne familière avec The Age of Spiritual Machine, ce raisonnement paraîtra presque naturel. Sinon, il faut connaître un peu plus les a priori de Kurzweil pour saisir de quelle manière il perçoit l’évolution des machines douées d’intelligence artificielle.
Histoire de remettre en perspective les conséquences de l’évolution de l’intelligence artificielle, en fouillant dans mes archives personnelles de correspondance, avec un ami partageant des intérêts similaires à l’époque, je repère un cadre de recherche sommaire posant alors une séries de questions recoupant celles couvertes par Kurzweil, mais dans une approche moins technologique. Avouons qu’à ce moment déjà, j’avais déjà plongé le nez dans l’ouvrage de Kurzweil.
Pour rester fidèle à cette habitude de revenir en arrière sur une réflexion, et par honnêteté intellectuelle, comme pour le billet précédent, acceptons ces propos intégralement, sans modification – on verra bien si cela tient encore !
4. CYBERNÉTIQUE OU CYBERNÉTHIQUE
Cadre de recherche de novembre 2003
- Une observation attentive de la société ambiante laisse percevoir que le développement des sciences du traitement de l’information conduit lentement, et probablement très sûrement, au développement de l’IA, l’intelligence artificielle, communément considérée comme un point ultime de l’évolution des machines à traitement de l’information.
- Est-ce utopique ou mythologique de croire que ce genre de machine puisse atteindre dans un futur plus ou moins éloigné les capacités de l’intelligence humaine ? Probablement pas. Difficile de renier que ces rêves (ou cauchemars) habitant aujourd’hui nos consciences individuelles et collectives risquent fort bien de se produire, la pensée humaine ayant permis, plus souvent qu’autrement, de faire en sorte que la réalité dépasse la fiction.
- Croyons-nous que ce qui peut sembler pour le moment être une phase ultime du développement des capacités de traitement de l’information ne peut être qu’un point de chute pour une révolution plus grande encore ?
- On peut aisément imaginer le début d’un autre cycle de l’histoire humaine, où les capacités de l’intelligence humaine peuvent non seulement être atteintes, mais dépassées jusqu’à ce point que les «machines intelligentes» soient tellement plus intelligentes, a fortiori, qu’elles progressent encore plus rapidement dans l’évolution des connaissances que l’humain n’a pu jamais le faire. Serions-nous en mesure alors de nous adapter à ces progrès, d’autant plus que nous pourrions alors devenir asservis aux capacités excessives de ce «monstre» sur lequel nous avons perdu le contrôle ?
- À même titre que ces rêves (ou cauchemars) habitant aujourd’hui nos consciences individuelles et collectives risquent fort bien de se produire, comme nous l’avons posé précédemment, ces rêves ou cauchemars qui habiteraient celles des machines pourraient aussi se réaliser et donner à l’histoire un tournant tout à fait (in)prévisible. Ce ne serait plus alors uniquement l’histoire de l’humanité et l’histoire de son évolution. L’histoire se produirait aussi en dehors du contrôle exercé par les humains sur le déroulement des événements.
- Cela peut-il aller jusqu’à l’anéantissement des humains, voire à leur oubli, étape ultime où les machines nous gommeraient définitivement de leurs mémoires, pour elles-mêmes s’inventer leur propre mythologie, leur propre genèse ?
- Voulons-nous éviter cela ? Que pouvons-nous y faire ? Devons-nous déjà prévoir quelles mesures prendre ? Devons-nous nous inspirer des lois de la robotique, embryon de code de comportement, et envisager de placer un cadre normatif pour exercer un contrôle sur le développement des sciences de l’information afin d’éviter péril en la demeure ? Bref, devons-nous ajouter une dimension supplémentaire à la cybernétique et considérer qu’un éthique de nos relations avec les machines soit aussi nécessaire pour éviter d’être dépassés par notre propre création, en perte de contrôle ? Nous sommes des apprentis sorciers, après tout. En conséquence, est-ce vain de réfléchir à tout cela ?»
Avouons, après avoir collé ce texte à partir d’un document datant de novembre 2003, que certains des arguments, mis en évidence aujourd’hui en italiques, peuvent nous faire descendre des sueurs froides dans le dos. Ces questions doivent cependant être maintenues; elles peuvent aisément s’inscrire dans l’Arbre des possibles, pour paraphraser l’oeuvre de Werber.
Parenthèse qui se doit : Ce site inspiré de l’oeuvre de Werber mérite d’être consulté pour qui veut explorer le monde des possibles, notamment la Carte des futurs, même si cela pouvait conduire à des utopies. La partie de la carte qui couvrirait le mieux la portée de l’oeuvre de Kurzweil serait celle portant sur les avancées technologiques suivantes : maîtrise du cerveau, bionique et intelligence artificielle.
Même si les scénarios qui y sont couverts ne sont pas tous rédigés par des scientifiques, il y a la matière à réflexion pour bien des approches. Il serait souhaitable que certains lecteurs, maintenant avisés de l’existence de cet arbre expérimental, entrent en contact avec des scientifiques de leur réseau, pour continuer le développement des scénarios y proposés.
5. UN DES PÈRES DE LA SINGULARITÉ
Rencontrons S. Yudkowsky
Au hasard des promenades sur la blogosphère, est apparue cette traduction d’un essai de S. Yudkowsky, un des textes fondateurs décrivant un phénomène unique : la Singularité, dont les origines remontent déjà à une dizaine d’années.
Ce texte fondateur, maintenant publié par les Éditions Hache, soutient en fait l’oeuvre de Kurzweil. Intitulée Scruter la Singularité. En plus, elle nous réfère directement au texte original en anglais, intitulé Straring into the Singularity, pour ceux ou celles qui voudraient y accéder directement.
Cette traduction, repérée fin mai 2006, tombait à pic, puisque la grosse brique de Kurzweil venait tout juste d’atterrir dans ma bibliothèque personnelle, à côté de The Age of the Spiritual Machines. Cet auteur est radical : il déclare carrément la fin de l’Histoire, telle que nous la connaisssons. Selon lui :
- L’Histoire a commencé il y a trois milliards et demi d’années dans une flaque de boue, quand une molécule a fait une copie d’elle-même et est ainsi devenue l’ancêtre ultime de toute vie terrestre.
- Elle a commencé il y a quatre millions d’années, quand les volumes cérébraux se sont mis à augmenter rapidement dans la lignée des Hominidés.
- Il y a cinquante mille ans avec l’émergence d’Homo sapiens sapiens.
- Il y a dix mille ans avec l’invention de la civilisation.
- Il y a cinq cents ans avec l’invention de l’imprimerie.
- Il y a cinquante ans avec l’invention de l’ordinateur.
- Dans moins de trente ans, elle finira.
Radical, n’est-ce pas ? Pourtant, on reconnaît ici immédiatement la loi du retour accéléré de Kurzweil, comme si elle était appliquée cette fois ci à l’Histoire entière de l’Humanité, une espèce de loi de Moore de l’évolution de l’intelligence humaine qui aboutit à l’invention de l’intelligence artificielle, qui à un moment donné dépasse l’intelligence humaine. Et c’est au moment où les capacités de l’intelligence artificielle dépassent celles de l’intelligence humaine qu’on atteint la singularité, qui définit un changement radical de paradigme dans notre manière de penser, qui sera altérée par la présence d’une intelligence potentiellement supérieure. Point de rupture à considérer comme irréversible. À ce moment, selon Yudkowsky, «le monde dépassera notre compréhension».
On reconnaît également, en toile de fond, à travers cette trame historique qui s’accélère, un découpage similaire aux six époques, et comme élément important marquant le passage d’une étape à l’autre un changement de paradigme dans le traitement des informations.
Mais comment peut-on définir rapidement un monde qui dépasse notre compréhension, avec une image qui résume bien le propos ? Yudkowsky cite Larry Niven, dans la section 2.4. Cette analogie illustre très bien le problème de l’incompréhension.
Le plus grand défi pour un écrivain est un personnage plus intelligent que l’auteur. Ça n’est pas impossible. Des problèmes que l’auteur prend des mois à résoudre, ou à concevoir, le personnage peut les résoudre en un instant. Mais Dieu vienne en aide à l’écrivain si son personnage anormalement intelligent se trompe !
Larry Niven
Voilà que le problème est assez bien cerné, en effet. Comment pourrais-je écrire des dialogues pour un personnage plus intelligent que moi ? De manière corollaire, comment pouvons-nous imaginer ce que des machines plus intelligentes peuvent concevoir comme solutions technologiques, par exemple ? Pensez juste un peu au problème nanotechnologique de l’autoréplication ou des machines qui fabriquent des machines. Voilà, vous pensez aux films I Robot, La Matrice ou Artificial Intelligence, maintenant ? Quelles belles pistes à explorer aussi, à titre spéculatif !
Mais Yudkowsky, de manière similaire à Kurzweil, va encore plus loin dans son texte. Une fois qu’il a abordé ce phénomène de singularité, il aborde un autre thème qui nous rapproche de la réflexion de Arthur C. Clarke et des entités-machines : l’upload de l’intelligence humaine dans des machines. C’est le transfert de l’intelligence d’un individu qui peut survivre à son décès. Nous voilà dans le thème Cerveau dans la cuvette. Ce thème est cher à Douglas Hofstadter et Daniel Dennet, très bien développé dans leur essai Vues de l’esprit. Lire tout particulièrement le Chapitre 13 – Où suis-je ? – où le cerveau de l’auteur est hébergé dans une cuve. Pour vous mettre en appétit :
Et pendant que je retrouvais mon équilibre et mon son froid, je me dis : « Je suis assis ici, sur une chaise pliante, en train de regarder mon cerveau à travers un vitre… Mais au fait, m’interrompis-je, n’aurais-je pas du penser : “Me voici, flottant sur un liquide en ébullition, dévisagé par mes propres yeux ?” » J’essayai de penser cette deuxième pensée, j’essayai de la projeter dans la cuve, comme pour la tendre à mon cerveau, mais je ne réussis pas à effectuer cet exercice avec une conviction suffisante.
Daniel Dennett
Où suis-je ?
VUES DE L’ESRIT
Fantaisies et réflexions sur l’âme
Douglas Hofstadter et Daniel Dennett
On reconnaît donc ici des thème importants de réflexions sous-jacents au développement de l’intelligence artificielle : Qu’est que la conscience, qu’est-ce que la pensée, comment puis-je réfléchir à ce qu’est réfléchir ? Beaucoup de portes doivent maintenant commencer à s’ouvrir dans votre esprit singulier…
Le texte de Yudkowsky est donc un élément essentiel de compréhension du paradigme de la singularité. La version anglaise offre un avantage supplémentaire : elle est parsemée d’hyperliens conduisant vers d’autres sites permettant d’approfondir certains concepts clés; en fait, ce texte devrait être considéré comme incontournable, touffu d’idées nouvelles, même au niveau des mathématiques où on y explore même un système de numération alternatif pour mieux établir des ordres de grandeur et mieux comprendre la loi du retour accéléré.
Mais toutes ces spéculations nous placent dans quel état d’esprit ? Comment la recherche scientifique pourrait-elle nous mener vers de tels résultats, qui nous semblent si improbables ? Quelle courant idéologique soutient toute cette pensée techno-scientifique ? Voilà, comme nous traitons de cybernétique, de cette relation Humains / Machines, nous atteignons une frontière encore plus étrange, post-cybernétique pourrait-on dire : le Transhumanisme, fondée sur des principes énoncés pas un autre avant-gardiste : Max Moore.
6. LIFTING SÉMANTIQUE CHEZ LES EXTROPIENS
Rencontrons Max Moore
En parcourant le texte Yudkowsky sur le site Transition, dont la facture visuelle est exceptionnellement sobre – qualité – nous aboutissons aussi dans le circuit transhumaniste – ou extropien – ce qui invite à une grande ouverture d’esprit, même si cette école de pensée peut soulever bien des remous.
Max Moore, fondateur du courant de pensée extropien, nous confronte à un terme qui pourrait aussi s’inscrire dans la galaxie de la singularité et du transhumanisme. Beau mélange, n’est-ce pas ? Le Extropy Institute a été fondé en 1991. Il se prétend une organisation éducative à but non lucratif. Pour y faire référence, j’avais aussi conservé une copie des principes extropiens dans un cartable de notes personnelles, à la même époque qu’a été rédigé le cadre de recherche présenté ci haut. Je n’ai jamais eu l’occasion d’explorer à fond les concepts y étant énoncés. Pourtant, en abordant l’essai de Kurzweil, et en constatant comment l’essai de Yudkowsky nous y conduit subtilement, il est tout à fait approprié d’effectuer un parallèle entre les concepts véhiculés par Kurzweil et ceux véhiculés par Moore, afin de nous faire un idée des idéologies sous-jacentes au développement potentiel des époques 5 et 6, proposées par Kurzweil.
Le terme extropien, espèce de néologisme près du barbarisme, faisait probablement soupçonner à bien des gens que d’étranges desseins puissent être sous-jacents à un tel terme, presque rébarbatif à première vue.
C’est probablement une des raisons pour lesquelles je n’y avais pas trop porté attention, depuis que je l’ai repéré, il y a quelques années. Mais en revenant sur le site, il semble qu’un lifting sémantique redonne un second souffle aux six concepts de Max Moore, qui les classe maintenant dans un nouveau paradigme coiffé de l’acronyme PP : Proactionary Principle – le principe proactif. Mais ce nouveau principe est aussi sous la plume de Max Moore, ce qui n’indique pas de rupture entre les anciens principes et les nouveaux semble-t-il.
Vous pourrez vous faire à l’idée en consultant aussi les six principes extropiens, qui se résumeraient ainsi:
- Progrès perpétuel : Recherche de plus d’intelligence, de sagesse et d’efficacité, dans un cycle de vie prolongé, et suspension des limites politiques, culturelles, biologiques et psychologies freinant le développement continu.
- Autotransformation : Affirmation d’un auto amélioration continue au niveau éthique, intellectuel et physique à travers une pensée critique et créative, dans l’apprentissage continu, la proactivité et l’expérimentation. Utilisation de la technologie pour atteindre ces fins;
- Optimisme pratique : Induire les actions par des attentes positives;
- Technologie intelligente : Concevoir et implanter des technologies non comme des fins en soi, mais comme des moyens d’améliorer la vie;
- Société ouverte : Supporter un ordre social favorisant la liberté de communication et d’action, l’expérimentation, l’innovation, le questionnement et l’apprentissage;
- Autogestion : valoriser la pensée autonome, la liberté individuelle, la responsabilité personnelle, l’autonomie, le respect de soi et parallèlement celui des autres;
- Pensée rationnelle : Favoriser la raison au lieu de la foi aveugle et le questionnement au lieu du dogmatisme.
Bref, ce lifting sémantique, ce changement d’orientation, peu en importe les raisons connues ou inconnues, nous amène à considérer que la singularité ne peut pas être abordée sans un état d’esprit ouvert, comme le proposait Moore dans ses principes extropiens et comme il le propose maintenant dans ses principes proactifs. Notre destin individuel ou collectif s’inscrit dans l’évolution et le partage de nos pensées; impossible donc de faire abstraction des penseurs avant-gardistes, quelques soient nos craintes ou nos espérances devant le développement des technologies de l’information, qui convergent presque inévitablement vers le développement de l’intelligence artificielle.
Pour le moment, en transition, nous sommes déjà sur la voie du développement d’une nouvelle intelligence collective en utilisant tous ces nouveaux outils sur le Web 2.O qui n’en constituent pas moins une plateforme documentaire collaborative où de plus en plus d’Humains s’expriment et partagent des idées.
7. CONCLUSION
Peut-il y en avoir une véritablement ?
Après avoir brossé un tableau impressionniste qui présente une constellation de penseurs s’intéressant aux futurs possibles, en nous interrogeant sur les limites où pourrait nous conduire le développement extrême des technologies de l’information, menant à l’intelligence artificielle, il faut donc retenir que la pensée de Kurzweil est avant tout avant-gardiste.
Ce genre d’ouvrage n’est pas aisément abordable pour la plupart des gens – on pourrait postuler que sa brique doit figurer dans des ouvrages d’érudition et d’approfondissement, dans le même genre que Gödel Escher Bach de Douglas Hofstadter, qui prennent des mois et des mois à lentement digérer.
Oui, à bien y penser, avant-gardiste est vraiment le terme approprié !
Enfin, si on désirait aussi situer Kurzweil dans le courant de la modernité, on pourrait considérer ici, après une période intermédiaire – qu’on pourrait qualifier de cybernétique (passage obligé où la relation Humain / Machine se développe), que la prochaine période historique sera le produit de ce nouveau courant de pensée qu’inaugure assez bien Kurzweil. C’est précisément le transhumanisme.
On comprendra aisément que ce type de recherche fait peut-être un peu peur au gens; la futurologie est souvent inquiétante. Cependant, nous pourrions conclure que ce nouveau courant, à explorer, s’inscrirait aussi comme une suite logique du courant Troisième Vague de Toffler. Ainsi, nous pénétrerions à ce moment dans une Quatrième Vague, en quelque sorte, passage du Cybernétique au Transhumain.
Mais cela se réalisera-t-il ?
Les enjeux éthiques soulevés par cette fusion Humains / Machine sont très complexes; nous avons déjà de la difficulté à gérer les biotechnologies et les nouvelles techniques de reproduction humaines.
Qu’en sera-t-il lorsque nous devrons nous interfacer avec l’intelligence artificielle, ou que des machines pourront contenir une extension de notre propre intelligence ? C’est la raison pour laquelle je maintiendrais que nous devrions de plus en plus avoir un courant de pensée cybernéthique qui doit émerger, en songeant à toutes les conséquences de cet amalgame de percées technologiques. Nous de pouvons plus désormais uniquement parler de cybernétique, dès aujourd’hui.
8. APOSTILLE 2006.10.20 – La conscience humaine n’est peut-être pas au centre de l’Univers
Dans la section D’autres formes de vie, du chapitre L’invisible et de le devenir de l’Univers, Trinh Xuan Thuan – La mélodie secrète - fait une allusion intéressante à l’oeuvre de Freeman Dyson, méritant d’être soulignées ici. Elle s’inscrit parfaitement dans la lignée des propos d’Arthur C. Clarke, exposant un point de vue novateur avec son concept d’entités esprit.
« Il adopte le point de vue optimiste (Dyson) selon lequel la survie de la conscience et de l’intelligence ne dépend pas d ela nature particulière du matérie qui leur sert de support, mais de la complexité de l’agencement de ce matériel. Ainsi, nul n’est besoin des hélices enchevêtrées des molécules organiques d’ADN pour fabriquer un cerveau. Un nuage de grains de poussière microscopiques (ceux qui pèsent moins de 20 microgrammes et qui ne pourront jamais s’effondrer en trous noirs) ou, si le proton est instable, une nuée d’électrons et de positrons, avec une organisation sophistiquée, feront bien l’affaire ».
Le type de pensée que nous pouvons entretenir sur la nature de la conscience gagne à être élargi; notre paradigme de conceptualisation étendu. La conscience pourrait être autre chose qu’une émanation propre à des individus, ou à des personnes. Nous avons beaucoup de chemin à faire pour cerner ce qu’est véritablement la conscience dans l’Univers, et pourquoi pas la conscience de l’Univers.
Ne nous méprenons par les limites propres à la nôtre uniquement, dans une perspective purement antrhopocentrique. Comme la Terre a déjà été considérée comme le centre de l’Univers, les Humains ont été considérés, et sont encore considérés, comme le centre de la Conscience. Peut-être aurons-nous un jour à envisager le déplacement de ce centre !
Niveau 201 | Bibliothèque de signets | Notes | Illustration
Kurzweil | Yudkowsky | Max Moore | Clarke | Transhumanisme | Singularité | H2M | Futurologie | Informatique Futur | Intelligence artificielle
- Cette obligation de mentir cause un conflit dans la personnalité de HAL. La nature de ce conflit a déjà été exposée dans le billet précédent. En résumé, on pourrait se demander : Les ordinateurs peuvent-ils mentir ?
—-
Ce billet vous a intéressé ? Lisez toute la série Anthropologue recherche cybernéticen, en commençant par le bas !
Une icône cinématographique marquait le début de ce millénaire – 2001 Odyssée de l’espace – film que tant de cinéphiles ont vu et qui les a plongés dans un état réflexif, et – je le répète encore – qui n’a vraiment pas été compris parce que peu de lecteurs ont eu le courage de se taper la tétralogie complète 2001-3001. Pourtant, je persiste et signe, insistant à nouveau que cette œuvre phare devrait continuer à nous faire réfléchir sur la place de l’Intelligence dans l’Univers. Rien de moins.
nous entretenant de robots, n’oublions pas que le prochain pas à franchir, à ce niveau, en plus des recherches sur l’intelligence artificielle, est celui de l’apparence. De robot, nous passons à un autre terme : 
