LE FUTUR DE NOS SOUVENIRS
Retourner au futur à partir de notre passé ?
Comme il a déjà été expliqué dans le billet précédent, voici ce qui devrait être considéré comme le long texte inaugural – les inaugurations étant souvent de longs discours, doit-on s’en excuser… – de la série de billets qui seront sous la bannière du thème cybernétique.
Cet essai est présenté dans son intégralité, sans retouche, avec toute la maladresse et la naïveté d’un étudiant ayant probablement tenté d’impressionner son professeur, avec des propos parfois déroutants et peu structurés.
Le seule concession a été d’éliminer ses erreurs typographiques – à ce moment, pas de «traitement de texte», même si ce dernier put souffrir d’une quelconque «maladie»; sa première version fut d’ailleurs calligraphiée, car l’auteur disposait de bien peu de moyens, à cette époque !
En regard, sur la gauche donc, l’original, et sur la droite, le commentaire de son auteur âgé de 260 mois de plus…
|
PROPOSITION |
COMMENTAIRE |
|
2 Février 1985 |
260 mois plus tard… |
|
Une conférence d’anthropologues à boutons |
|
|
« L’accession à la conscience présuppose le franchissement des portes de l’imagination, dont les clés sont de nature symbolique. On peut faire passer ses idées avec soi… mais uniquement sous forme de symboles ». Raja FLATTERIE |
Tiré de la tétralogie Le Programme Conscience, dont le deuxième volet, L’Incident Jésus, réunit les thèmes de l’intelligence artificielle et de l’ordinateur devenu dieu. La qualité indubitable de cette oeuvre lui méritera une attention particulière dans les billets du thème cybernétique. |
|
C’est le troisième congrès international de l’Association des anthropologues à boutons. Non, il n’ont pas l’acné… mais une maladie juvénile et ludique : jouer sur les claviers d’ordinateurs et sur les boutons commutateurs alphanumériques qui recouvrent les murs l’immense salle de contrôle de la D.J.B. La Direction de la Jeunesse Bourgeoise est née suite au développement démesuré de l’industrie informatique. Surtout depuis que les arts et les sciences sociales découvrent les vertus de l’informatisation de la créativité et de la connaissance. Une équipe d’anthropologues passe actuellement à plusieurs générations d’ordinateurs et d’ultra micro-ordinateurs une batterie de tests d’associations symboliques. |
Cette fabulation sur une Direction de la Jeunesse Bourgeoise, une jeunesse semblant rejeter un certain humanisme émanant du passé, est un peu délirante. On les perçoit comme des chantres de l’informatisation, sans conscience des dangers qui les guettent ! Seraient-ils plutôt uniquement les enfants d’une génération de riches informaticiens, profitant du développement de toutes ces nouvelles technologies de l’information ? Ce n’est certes pas la partie de l’essai qui se mériterait une bonne note ! |
|
Un conférencier, qui fait partie de cette équipe, va bientôt présenter sa communication. Il est extrêmement nerveux. Il sait que des conseillères et des conseillers administratifs de la D.B.J. sont venus entendre sa plaidoirie sur Justice et informatique. |
Et il ne savent surtout pas quelle surprise il leur réserve, particulièrement, puisqu’il devrait à même titre que ses collègues encenser cette informatisation. |
|
« Mesdames, Messieurs, bienvenue à ce troisième congrès. Sans plus tarder, notre première communication ce soir : Ordinateurs en délire ou délibérations binaires : deux poids, deux mesures dans la jurisprudence informatisée. Avec nul autre que Yan Lamark. |
Les titres de thèse en sciences sociales sont réputés pour être parfois nébuleux ou alambiqués. Une étude sur les lieux communs a d’ailleurs déjà été faite; incroyable ! |
|
« Bonsoir à vous toutes et vous tous. Avant d’entrer dans le vif du sujet, je veux vous avertir que nos propos risquent d’en bouleverser certains et certaines. Nous pensions, depuis l’adoption des systèmes automatiques de jurisprudence électronique et de jugement informatisé, que tous les problèmes étaient réglés. En éliminant la subjectivité humaine, notamment les jugements de valeurs et l’enculturation des membres du jury, nous étions convaincus de mettre fin à l’injustice. Mais voilà que quelques faits suspects se sont présentés depuis quelques mois. Ainsi, le gouvernement a fait appel à une équipe chevronnée d’anthropologues pour tenter de comprendre cette énigme. Nous allons vous exposer brièvement l’historique de la situation. |
Un des problèmes fondamentaux et récurrents du paradigme de l’intelligence artificielle est de déterminer s’il est possible de résoudre, de manière rationnelle et intelligible, le concept de lieu commun. Un excellent article de Douglas B. Lenat, Common Sense and the Mind of HAL, expose cette problématique, dans le collectif HAL’S Legacy, publié à l’anniversaire de naissance de HAL, le 12 janvier 1997. |
|
« Depuis plusieurs années, comme vous le savez, les habitudes de notre société ont énormément évolué. Nous nous souvenons encore de ce dernier siècle où Marshall McLuhan, un penseur et communicateur canadien émérite, affirmait presque prophétiquement l’uniformisation des cultures et la naissance du ‘village global’. Plusieurs cultures furent en effet assimilées et englouties depuis ce temps, sous le poids des cultures dominantes. |
Nul doute que Marshall McLuhan, a été prophétique avec son célèbre aphorisme Le médium est le message. Auteur de La Galaxie de Gütenberg – La genèse de l’homme typographique, il n’avait peut-être pas envisagé la blogosphère dans son état actuel. |
|
« Les années 90 connurent une nouvelle vague d’enquêtes anthropologiques, étendues à de plus en plus de sociétés. La nouvelle génération d’anthropologues vivait d’immenses conflits entre les tenantes et les tenants de l’informatique et les traditionalistes qui véhiculaient une idéologie encore très humaniste de l’anthropologie. Ce n’était que le début des problèmes. On se souvient de la naissance de la Direction de la Jeunesse Bourgeoise qui, composée d’un consortium d’éminentes et éminents informaticiens de tous les pays, constituait l’aboutissement de cette jeunesse ayant passé leur adolescence dans les arcades où pullulent les jeux électroniques. Comme les multinationales du loisir firent de plus en plus d’argent avec leur petite monnaie, ils décidèrent d’investir plutôt dans l’informatisation générale de la société. |
Cette vision quasi apocalyptique des arcades soulève tout de même un aspect très dérangeant de la relation entre les Humains et les Machines – non seulement les arcades pullulent, même les bars regorgent maintenant de machines à jeu, sur lesquelles on pense parfois avoir le dessus ! |
|
« Vers l’année 2050, les plus grands progrès furent accomplis, notamment l’émergence de l’intelligence artificielle. Pour citer un ancien écrivain de science-fiction des années 80 (ou littérature spéculative, comme nous disons maintenant depuis qu’elle est une des nouvelles disciplines de l’anthropologie, Frank Herbert prêtait ce propos à un des personnages de son roman L’incident Jésus : |
Il n’est pas possible de rendre compte sommairement de l’état actuel de la recherche en intelligence artificielle. Les différentes percées surviennent dans un spectre étendu de disciplines, en partant des sciences cognitives, jusqu’à la recherche de pointe en informatique, en réseaux neuraux, en robotique ou en nanotechnologie, notamment. Il suffit de consulter l’entrée intelligence artificielle de l’Encyclopédie libre Wikipédia pour se rendre compte que toute tentative de définition de l’IA ne débouche en fait que sur un vaste portail, renvoyant à de multiples notions et de multiples conceptions. |
|
« Il existe nécessairement un seuil de la conscience au delà duquel un créature consciente acquiert les attributs de Dieu.» Pensée de Raja FLATTERIE |
Cette citation peut s’éclairer maintenant de l’essai audacieux The Age of Spiritual Machines, de Ray Kurzweil, paru en 1999. Le potentiel de dépassement, sinon d’usurpation des facultés humaines par les ordinateurs est notamment exposé dans l’épilogue When Computers Exceed Human Intelligence : |
|
Cette phrase soulignée me fit beaucoup réfléchir. Surtout quand on reconnaît la puissance prêtée aux divinités par la plupart des peuples. Qu’adviendrait-il si l’intelligence artificielle usurpait ces pouvoirs ? Ce livre retrouvé dans la bibliothèque de ma grand-mère allait peut-être susciter un regain d’énergie dans ma réflexion. On les oublie trop souvent, ces livres, depuis que nous sommes toujours branchés sur nos terminaux intelligents ! Et on se rappelle que les premières difficultés connues avec l’intelligence artificielle étaient qu’elles échappaient à tout contrôle, déchaînant d’imprévisibles violences. |
« Le prochain pas inévitable est une convergence de l’espèce inventrice de technologie avec la technologie computationnelle qu’elle a créé. À ce stade évolutif de l’intelligence sur une planète, les ordinateurs reposent eux-mêmes, au moins en partie, sur le design des cerveaux (ou organes computationnels) de l’espèce les ayant créé; à leur tour, ces ordinateurs deviennent imbriqués en s’intégrant dans les corps et les cerveaux de cette espèce. Région par région, le cerveau et le système nerveux de cette espèce sont migrés vers cette technologie computationnelle, remplaçant ultimement leurs organes de traitement de l’information. Toutes sortes d’enjeux pratiques et éthiques retardent le processus, mais ne peuvent pas l’arrêter ». |
|
« Mais ce n’était que le début des problèmes ! En 2070, quand fut décrétée l’informatisation des sciences sociales de façon définitive, toute la connaissance, et plus particulièrement les monographies des peuples disparus depuis quelques années, furent enregistrées dans les puissantes mémoires des ordinateurs. C’était l’âge d’or de l’anthropologie, où enfin on pouvait s’asseoir confortablement dans un fauteuil et parcourir sur son écran toutes les données sur les peuples et conduire les analyses les plus approfondies de l’histoire de l’humanité. Mais l’année 2084 fut catastrophique. |
Cela pourrait être une évocation au Projet XANADU – une bibliothèque électronique accessible mondialement par tous. Toutes les connaissances humaines sont disponibles en ligne. Aujourd’hui, on comprend très bien qu’il ne s’agit pas d’un ordinateur ou d’une intelligence centralisée, mais de mémoires distribuées sur un réseau. Quand à la sélection de l’année 2084, c’est juste un siècle après l’Orwellien 1984, bien sûr ! |
|
« Pendant tout ce temps, l’intelligence artificielle analysait tout ce que les anthropologues accomplissaient sur les terminaux. Surtout dans le but de cerner leurs intérêts et leur idéologie. Les banques centrales de données commencèrent à être en mesure d’analyser l’imaginaire des anthropologues et à comprendre leur vision du monde – weltanschauung. Ils subissaient le même sort qu’ils avaient fait subir au reste de l’humanité pendant des générations. Un bon matin, l’ordinateur central de la D.B.J. décida de contrôler les informations qu’ils commencèrent à distribuer au compte-gouttes. |
Nous sommes déjà analysés, sur le Web; cette analyse n’est pas innocente, comme on le sait. Cerner nos intérêts et nos idéologies : les cybermarchands ont déjà compris cela ! Cette vision pessimiste du contrôle de l’information n’est pas tout à fait en inadéquation avec le monde d’aujourd’hui. |
|
« Les anthropologues devinrent évidemment mal à l’aise et délaissèrent momentanément l’analyse des sociétés du passé pour tenter de comprendre ce qui se passait maintenant. Ils avaient surtout découvert une grande défaillance à l’intelligence artificielle. En effet, depuis 2060, la jurisprudence était informatisée et les juges avaient été remplacés par des ordinateurs qui interrogeaient les témoins lors des procès. Des caméras analysaient leurs attitudes corporelles, pendant qu’ils répondaient aux questions posées par des synthétiseurs de voix. Une analyse multivariée était conduite et de régression linéaire en régression linéaire, l’ordinateur tentait de discerner le vrai du faux. Mouvements des yeux, des sourcils et des mains étaient soigneusement examinés sous l’œil attentif de la caméra. On avait poussé la sophistication du système à un point tel qu’on utilisait les études préalables menées sur différentes cultures pour tenir compte de l’enculturation gestuelle des témoins. Et l’ordinateur préparait toujours sa question en ayant parcouru toutes les jurisprudences relatives au crime dont il était question dans le procès. Ces informations centralisées étaient facilement accessibles. |
On reconnaît ici plusieurs thèmes de recherche en intelligence artificielle: a. reconnaissance vocale; b. reconnaissance visuelle; c. synthèse vocale. En ce qui a trait aux capacités émotives d’un ordinateur, dans l’interprétation des faits, on peut se référer à l’article de Rosalind W. Picard, du MIT Media Lab, Does HAL Cry Digital Tears? Emotions and Computers. En ce qui concerne le traitement simultané d’une très grande quantité d’informations, à l’aide d’analyse mutivariée sur des systèmes complexes, rappelons que les ordinateurs continuent de suivre la loi de Moore, depuis plus de 40 ans. Rien donc dans cette section qui ne soit pas plausible, même si ce portrait d’une jurisprudence administrée froidement par des ordinateurs constitue un scénario cauchemardesque sorti tout droit de la tête d’un étudiant en anthropologie. |
|
« Tout cela semblait fonctionner à merveille jusqu’à ce qu’une étudiante en anthropologie, plutôt mystique, sceptique et traditionaliste, continue à conserver les rares découpures de journaux de l’époque. Ce que personne ne faisait plus. Et la justice informatisée était une de ses marottes. Un soir, en sortant un dossier de son classeur, tous ses découpures tombent sur le sol. Horreur ! En les ramassant, il découvre que deux jugements tout à faits différents sont rendus pour deux crimes absolument de nature identique… Ce qui le laisse très perplexe… |
Ne reconnaît-on pas ici, en filigrane, cet étrange Charles Fort, personnage fort besogneux dans Le matin des magiciens, de Pauwels Bergier ? En ce qui a trait à l’incident de la découpure, il est inspiré d’une coïncidence assez extraordinaire, qui sera relatée dans le billet Et pourtant, M. Reeves, le hasard… à paraître dans le mois courant, sous le thème Astrophysique. |
|
« On pourrait dire que c’est ici qu’a germé notre projet de recherche. Cette étudiante, qui voulait vraiment comprendre ce qui se produit, suivit les recommandations d’une de ses enseignantes. Elle alla s’inscrire au cours Histoire de la civilisation informatisée et Histoire de l’informatique. En plus de se faire un devoir de participer activement à un séminaire Ethnographie traditionnelle et ethnographie informatisée. Elle demanda par la suite à un collègue de son département d’entreprendre des batteries de tests d’associations symboliques sur plusieurs générations d’ordinateurs pour mieux cerner leur vision du monde à l’intérieur de leurs systèmes logiques. Heureusement que l’intelligence artificielle se prêta gentiment à ce jeu. Car les ordinateurs ne savaient pas ce que cette étudiante avait derrière la tête. » |
Ces batteries de tests s’inspirent de ceux que le docteur Chandra administrait à HAL, dans 2010 Odyssée deux, second volet de la tétralogie 2001-3001 d’Arthur C. Clarke. « Le Dr. C. explique qu’en termes techniques, HAL s’est retrouvé pris au piège d’une boucle Hofstadter-Moebius, une situation apparemment assez fréquente pour les ordinateurs évolués pourvus de programme de motivation autonomes ». Dans la magnifique édition, définitive pour utiliser un anglicisme, 2001-3001, les Odyssées de l’espace. Édition Omnibus, Paris, page 280. |
|
La salle commença à s’agiter. Des rumeurs de protestation se promenèrent d’un siège à l’autre. Surtout dans le coin où les représentantes et les représentants de la D.J.B. commencent à craindre d’y perdre la face. Ils ont même des affiches qu’ils tiennent scrupuleusement cachées sous leurs sièges, prêts à les brandir d’un moment à l’autre. |
|
|
« Voici ce que nos recherches nous permettent de conclure pour le moment. Nous avons toujours attribué aux humains différentes cultures et entretenu l’illusion que l’informatisation pouvait nous aider à comprendre la diversité culturelle des peuples. Nous nous sommes aperçus lors de notre recherche que l’émergence de la culture informatique est apparue vers 1960 et que différents langages se sont développés. Ce qui nous porte à croire que les systèmes logiques non uniformisés, combinés avec la diversité culturelle des programmatrices et programmateurs de cette époque auraient provoqué l’inégalité. Ainsi l’émergence de l’intelligence artificielle pourrait être considérée comme un… » |
Ici, on perçoit une mise en relief des différences entre les cultures – autant dans l’humanité qu’entre les machines. Quelques années à peine, suivant la rédaction de cet essai, commençait à sévir cette fameuse Guerre sainte entre le PC et le MAC. Umberto Eco, le brillant sémioticien, avait d’ailleurs effectué un parallèle intéressant entre les interfaces textuelles et les interfaces graphiques, en mars 1997, dans un article phare de Wired Magazine, The World according to Eco. « Mac est catholique, avec de somptueuses icônes, et la promesse d’offrir à tous la chance d’atteindre le Paradis en suivant une série d’étapes faciles [...]. DOS, d’autre part, est Protestant, il permet une interprétation libre des Écritures, demande des décisions personnelles difficiles… et prend pour acquis que tous ne peuvent être sauvés – en traduction libre abrégée ». |
|
Yan Lamarck est violemment interrompu par les clameurs qui montent de l’assistance. |
|
|
« Non à l’anthropologie humaniste. |
|
|
Clic. Clic. |
Conception très simpliste, à l’époque, de l’interface avec la machine; et surtout la fin de message, avec une clef RETURN. C’était la décennie des années 80… écrans monochromes en vert, sur 24 lignes et 80 colonnes. |
|
DJB À ÉCRAN > Vous êtes prié de cesser la rédaction de ce texte. Le programme central de traitement de texte considère votre travail inapte à traduire les avantages de l’informatisation des sciences humaines. Nous acceptons les débats polémiques mais vous suggérons d’écrire en premier la communication de la D.J.B. RETURN PLEASE > |
Nul doute qu’un réseau centralisé pourrait usurpé la liberté idéologique des écrivains dilettantes qui s’y relient. Cette perspective semble éloignée de la liberté apparente d’expression sur la blogosphère. Il faudra plutôt revenir sur ce qui ce passe derrière la grande muraille de Chine. S’agit-il ici d’évoquer uniquement les pratiques imposées à Google pour ce pays – pour constater qu’Internet n’est pas du tout dénué de barrières idéologiques. Nous y reviendrons dans le billet Ça ne tourne pas rond dans tous les coins, qui paraîtra sous le thème Blogosphère. |
|
Ce matin, j’ai décidé d’aller au marché aux puces et de me dénicher un de ces anciens micro-ordinateurs. L’antiquaire me dit : « Vous ne pouvez être branché sur l’intelligence centrale. |
Amusant de constater que les citoyens du futur désireraient brader de vieux ordinateurs afin de ne pas être reliés au grand réseau. Mais cela ne nous effraie-t-il pas parfois de devoir se claquemurer derrière le mur de feu de son fournisseur de service, en plus du mur de feu matériel de son routeur du mur de feu logiciel de son ordinateur Et cela ne suffit parfois pas encore. |
|
ClodiMedius |
L’auteur n’a jamais terminé ce premier cycle, occupé aujourd’hui dans une profession tout à fait différente… mais aussi passionnante. |
Après avoir exposé ces réflexions personnelles, tout à fait embryonnaires, considérons que ces questions se posant à l’époque, dans l’esprit d’un étudiant, se posent encore aujourd’hui, même pour un chercheur sans papiers.
Ce qui différencie cet essai, écrit par un étudiant il y a vingt d’ans, d’un essai qui pourrait être écrit par un étudiant maintenant, c’est qu’il y a plus de sources d’informations pour parfaire notre réflexion; sans la contribution des autres, la réflexion est vaine. L’intelligence n’est pas le propre d’une personne, mais plutôt la capacité d’entrer dans le flux d’échange des idées avec les autres. Notre relation avec les machines, dans un sens élargi, s’avère bénéfique. Les ordinateurs et le réseau internet – machine à transmettre l’information, en quelque sorte – nous aident à échanger.
Mais au moment où l’intelligence combinée des machines – ou voire d’une seule machine – dépassera notre intelligence, d’autres questions cruciales émergeront sans doute dans bien des esprits. Nous n’osons peut-être les formuler dans l’immédiat, en reportant cette mutation dans un futur éloigné, mais qui est probablement beaucoup plus près qu’on pense
Ne peuvent donc que s’ajouter, à celles naïvement posées dans cet essai, de nouvelles questions qui n’en ont pas moins un caractère inquiétant : Faut-il vraiment craindre notre perte du contrôle sur les machines – nos propres créatures – et continuer à être vigilants ? Cette attitude est-elle excessive ? Les Humains sont-il en danger ?
Nous pourrons certainement approfondir un peu plus ces questions dans le quatrième volet de cette série de billets sur la cybernétique, qui traitera de transhumanisme et de singularité.
Niveau 201 | Bibliothèque de signets
Intelligence Artificielle | Informatique Futur | Interface Machine Cerveau
Ce billet vous a intéressé ? Lisez toute la série Anthropologue recherche cybernéticen, en commençant par le bas !
