OÙ COMMENCE LA SCIENCE ET OU S'ARRÊTE LA SCIENCE-FICTION ?

Intelligence Artificielle et SF
Communication au Troisième Congrès Européen des Sciences de l’Homme et Sociétés :
“Aux Limites de l'Humain”
Nouvelles Technologies : "l'homme terminal ?"
PARIS, CITÉ DES SCIENCES
Michel Nachez

La science-fiction a souvent été perçue comme une littérature triviale. S’il en est ainsi pour une certaine part de cette production littéraire, elle se veut également avant tout littérature expérimentale, mêlant prospective, récits philosophiques, vulgarisation scientifique, essais politiques, questionnements sociaux, jeux de l’esprit, tous en rapports avec des développements possibles de notre culture technologique.

Le thème des créatures artificielles est en germe bien avant l’émergence de ce genre littéraire et on peut le faire remonter à l’antiquité. Ces créatures dont les deux figures emblématiques les plus populaires sont le Golem et le monstre de Frankenstein, ont été décrites comme blasphématoires, perverties, et se situant hors de la création divine.

Ainsi, le genre porte en lui le thème de la créature maudite, porteuse de malheur et dont la pseudo vie contre nature doit être éliminée. C’est de ce thème dont s’est nourrie la science-fiction depuis ses origines. La machine et le robot sont représentés comme des esclaves de l’homme. En tous les cas, ils sont voués à ne jamais devoir prétendre égaler l’humain dans son statut ontologique. Ainsi que l’écrivait Jules Vernes : « Tout est borné sur la Terre et l’infini ne peut sortir de la main des hommes. » (Cité par Van Herp, 1996, p.361).

C’est à Asimov que l’on doit une pertinente réflexion sur le thème des robots. Nous sommes dans les années 1950, les premiers ordinateurs ont été conçus et promettent des lendemains fascinants. La science-fiction entreprend de dépeindre les possibles évolutions de ces nouvelles branches de la science qui deviendront l’informatique et la robotique.

Asimov pose la question d’un monde où se mêlent robots supérieurs et hommes. Comment gérer la cohabitation de robots qui pourraient administrer les affaires humaines bien plus efficacement que n’importe quel gouvernement ? Asimov nous dépeint un univers où de simples robots-outils évoluent jusqu’à devenir des êtres d’une perfection inégalable. Dans son œuvre « Les robots », il nous montre que ceux-ci finissent naturellement par gérer le bien-être de l’humanité en laissant à l’homme l’illusion qu’il dirige son destin. Car l’amour-propre de l’homme ne supporterait pas l’idée d’être complètement dépendant des machines.

Conscient des problèmes que peuvent poser des robots très performants, Asimov invente les trois célèbres lois de la robotique :

Première loi
Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger.

Deuxième loi
Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la première loi.

Troisième loi
Un robot doit protéger son existence dans la mesure où cette protection n'est pas en contradiction avec la première ou la deuxième loi.

Ces lois préfigurent déjà, dans l’esprit d’Asimov, le danger potentiel pour l’humanité de cohabiter avec une espèce artificielle concurrente aux capacités supérieures à tous points de vue.

Asimov explore ainsi les multiples crises auxquelles pourrait être confrontée l’humanité face à des robots intelligents. C’est avec habileté et sens psychologique qu’il décrit les failles des trois lois et montre à quelles difficultés peut être exposée une civilisation cohabitant avec des créatures artificielles intelligentes et autonomes.

Par la suite, la science-fiction s’inspirera d’Asimov et machines et robots intelligents changeront de profil : « le robot, c’est l’homme, et plus encore, le robot est meilleur que l’homme, c’est l’avenir de l’homme. » (Klein, 1974, p.22).

L’Intelligence Artificielle restera cependant encore longtemps une fiction et les machines décrites par les auteurs de science-fiction ne seront qu’imaginaires, projections d’un futur hypothétique. Nous croisons ainsi les androïdes de Philip K. Dick dans le film Blade Runner (tiré du roman Robot Blues, 1968) qui cherchent à échapper à leur mort programmée. Étant trop perfectionnés et suprêmement intelligents, et donc très dangereux, leur séjour sur Terre est prohibé sous peine de destruction. Une autre de ses nouvelles (Second Variety, 1957 – dont a été tiré le film Planète hurlante) met en scène des armes-robots intelligentes et autorépliquantes qui deviennent totalement autonomes et se perfectionnent de génération en génération avec comme objectif de détruire tout ce qui est humain.

Ces thèmes sont déclinés tout au long des années 1970. Pendant ce temps, la technologie des semi-conducteurs évolue et la micro-informatique fait son apparition. Dans les années 1980, elle rejoint les foyers et c’est le début d’une nouvelle époque. À ce moment, alors que les ordinateurs se répandent et que l’on expérimente les premiers réseaux informatiques, un nouveau genre de littérature apparaît : le cyberpunk. Il se caractérise en premier lieu par le thème de l’hybridation techno-biologique(implants biomécaniques, membres artificiels, chirurgie plastique, modifications génétiques) et deuxièmement par le couplage cerveau-ordinateur (interfaces d’intelligence artificielle, manipulations neurochimiques, technologies de projections dans le cyberespace plus ou moins invasives) remodelant peu ou prou le psychisme humain jusqu’à une dénaturation avancée.

Le point central des récits cyberpunk est constitué par l’existence d’un réseau planétaire d’ordinateurs constituant un univers en soi, où la vie artificielle naît, grandit et prospère et dans lequel émerge une conscience artificielle. Le monde matériel est souvent décrit comme post-industriel : de grandes zones de quartiers abandonnés où survivent des groupes humains laissés pour compte, miséreux, dans une ambiance polluée et malsaine...

Dans cette jungle vivent des hors castes surdoués, maîtrisant parfaitement les techniques de piratage informatique et s’appropriant illégalement les technologies permettant d’accéder au cyberespace qui est pour eux une sorte de drogue. Et, ultime frontière transgressée : le transfert de la personnalité humaine dans une mémoire d’ordinateur est possible.

Le genre cyberpunk se fait l’écho d’un questionnement : les machines en réseau à base de puces informatiques pourraient développer une certaine forme d’intelligence et de conscience et influer sur les sphères d’activités humaines, poursuivre ses propres dessins à l’insu des hommes. C’est ainsi que se développent des récits mêlant cyborgs, êtres intelligents artificiels et humains informatisés sur fond de luttes hommes/machines, piratages informatiques et scénarios d’horreur dont le plus abouti est illustré par le film "Matrix" où les humains sont la source d’énergie d’une civilisation robotique qui a pris possession de la Terre après avoir réduit l’humanité à l’état de pourvoyeur d’énergie.

Dans Neuromancien de William Gibson et Les synthérétiques de Pat Cadigan les réseaux sont habités par une IA émergeante qui sème le trouble dans la communauté des navigateurs du cyberespace. Les auteurs décrivent les premières confrontations avec ces nouvelles formes de vies cybernétiques.

D’autres récits comme La cité des permutants de Greg Egan relatent la problématique de la copie informatique de la personnalité humaine et de son transfert sur un support informatique. La question qui se pose alors est qui : est l’original ? Quel est le statut de la copie ? Est-elle un être inférieur, une copie de sauvegarde que l’on active seulement à la mort de l’original pour donner l’illusion d’une survivance ? Ou bien cette copie développe-t-elle une spécificité qui en fait un être à part et différent de l’original ? Ce roman explore également la problématique de la dénaturation progressive du psychisme humain transféré et évoluant dans les ordinateurs. Confronté à une immortalité relative, l’humain peut enfin pleinement se consacrer à ses passions ou se perdre dans ses réflexions sans limites de temps. Un ravissement ou un enfer. Il reste toujours la possibilité d’effacer son fichier-personnalité si l’on désire vraiment disparaître et donc mourir. Ce sera alors une décision personnelle prise en toute liberté et non une fatalité imposée par les limites du biologique, où la mort est inéluctable.

On trouvera également la description d’IA bienfaisantes qui agissent pour le bien de l’humanité tout en en ayant une opinion peu valorisante : « Projet Macno,
01 : l’homme produit de l’inutile ;
02 : l’homme est dominé par ses émotions ;
03 : l’home agit sans savoir ;
04 : l’homme est trop lent ;
05 : l’homme a une intelligence limitée ;
06 : l’homme est irrationnel ;
07 : l’homme est source d’erreur ;
08 : l’homme a une mémoire défaillante ;
09 : l’homme accroît l’entropie ;
10 : l’homme gaspille de l’énergie. » (Ligny, 1999, p.22).

C’est ici le thème de la grande sœur protectrice qui protège son petit frère arriéré.

Ces mondes sont-ils crédibles ? Qu’en pensent les spécialistes de l’IA et de la robotique ?

Les futurs de l’humain selon les « prophètes » de l’Intelligence Artificielle

Le discours de ces scientifiques plongés dans ces nouvelles avancées de la technologie informatique et de la biotechnologie est généralement enthousiaste et optimiste quant aux futurs développements de leurs disciplines.

Cependant entre le discours et la réalité, il y a un encore gouffre. Si leurs discours ressemblent plus à des récits prospectifs dignes des romans de SF, ce qui se passe dans les laboratoires est certes très prometteur bien qu’encore balbutiant, et est en décalage avec le discours qui annonce l’imminente émergence d’une nouvelle espèce de vie artificielle (pour certains, les machines sont déjà habitées d’une sorte de conscience bien à elles : nous ne le remarquons tout simplement pas).

À l’analyse, tout semble affaire de définitions. Le terme intelligence revêt un sens différent dans le discours des cybernéticiens et des neurobiologistes. Pour les chercheurs en IA, est intelligente une machine qui fait illusion et passe pour intelligente aux yeux des hommes. » (Ganascia, 1993, p.37). On peut donc parler de l’intelligence des machines sans avoir à définir l’intelligence des êtres vivants – ce qui est confortable. C’est la définition qu’en donne Turing en 1950. Et cette vision de l’intelligence des machines reste prépondérante aujourd’hui. Paradoxalement, cette question de l’intelligence des machines a permis de relancer la recherche sur l’intelligence biologique, qui elle-même est loin d’être résolue.

En corollaire à ce concept d’intelligence on trouve celui de conscience. Qu’est-ce que la conscience ? Comment émerge-t-elle d’un système d’organisation complexe tel qu’un cerveau humain ?

"Pour Minsky, elle [la conscience] n’est qu’un mécanisme cognitif, devenu pour l’homme une superstition, l’équivalent d’un faux dieu" (Le Breton, 1999, p.193).

Pour pouvoir élaborer un psychisme artificiel fonctionnel, il convient de comprendre ce que sont ces fonctions, comment elles s’élaborent, comment elles se développent. Mais là aussi, chaque hypothèse ne fait que rendre plus manifeste la complexité de la question.

On ne peut comparer un cerveau biologique à un réseau de puces électroniques. Actuellement, les ordinateurs, aussi puissants soient-ils, sont stupides.

Ces différences entre le biologique et le cybernétique mettent en lumière l’impasse de la recherche en intelligence artificielle traditionnelle « qui s'efforce de copier les processus mentaux conscients de l'être humain occupé à une tâche particulière. Ses limitations tiennent à ce que les aspects les plus puissants de la pensée sont inconscients, inaccessibles à l'introspection et donc difficiles à transcrire formellement. » (Moravec, 1992, p.28)

De ces constats, la recherche a exploré d’autres voies : l’on ne cherche plus à copier le cerveau humain et ses « logiciels » – tâche trop complexe – mais bien plus à élaborer des algorithmes d’apprentissage évolutionnistes propres aux machines.

Agnès Guillot (chercheuse à l’AnimatLab) explique : « Notre méthode se situe à l’opposé : partir de systèmes simples qui, intégrés dans un corps physique, se complexifient en fonction des interactions avec l’extérieur. C’est ce qu’on appelle l’intelligence artificielle située » (Agnès Guillot, 2001, p.43) On parle alors de robotique évolutionniste et de vie artificielle. Ces nouveaux robots s’inspirant de la vie animale sont appelés animats.

La spécificité même de ces recherches incluant la possibilité de création d’une machine tellement complexe qu’elle pourrait générer une forme d’intelligence, de décoder le logiciel du vivant permettant ainsi la construction et la reprogrammation du biologique, explique la fascination qu’ont les chercheurs de leurs disciplines. Le sentiment du pouvoir de création absolu, d’être à la source de la compréhension de la vie et de la création d’une vie nouvelle, attise les sentiments d’exaltation. Mais il y a risque : celui de menacer l’existence de l’humanité ou tout du moins de la voir perdre sa place de centre de la création. C’est tout une vision du monde qui s’en trouve bouleversée.

En conséquence, l’homme doit changer, doit s’adapter au nouvel ordre de hiérarchie des intelligences et, pour garder sa place, doit se dénaturer pour se surnaturer. C’est la thèse du transhumanisme qui prône le transfert de la conscience humaine dans la machine, en tant qu’égal des supérieures IA.

Le Transhumanisme est un courant philosophique représenté principalement par une frange de la communauté des chercheurs en IA. Les plus extrêmes de ces transhumanistes sont les extropiens.

Voici les principaux protagonistes de ce mouvement :

MAX MORE (Ph. D en Philosophie, Politique et Économie, leader du mouvement transhumaniste)

Selon Max More, le transhumanisme est en quelque sorte un prolongement de l’humanisme. À cette différence que les humanistes ont peur de « jouer » aux dieux, car créer un être immortel n’est pas naturel. La vie sans la mort n’a pas de sens et transcender l’humain est source de catastrophes (thème bien développé par la SF : mythe de Frankenstein, mythe de la science maudite).

Le transhumanisme anticipe le futur et parle de posthumanité

Les étapes du transhumanisme :

1. utiliser la chimie pour contrôler les performances (modifications déjà possibles).

2. les machines deviendront plus organiques, automodificatrices et intelligentes. Cette technologie sera implantée dans l’homme. C’est l’étape de la cyborgisation.
« La « "machinisation" du biologique et "biologisation" des machines » (de Rosnay, 2001, p.17). Les biopuces : des éléments artificiels compatibles avec le vivant. Pour de Rosnay, ce n’est pas de la SF. Avantages : personnalisation des traitements médicaux, traitements de handicaps. Possibilités : augmentation des capacités humaines : l’homme « augmenté » (amélioration des sens, potentialisation de la force musculaire, autres applications possibles…).

3. finalement l’homme se transplantera dans la machine et sera l’égal des Intelligences Artificielles. Le rêve des alchimistes sera enfin réalisé : l’immortalité.

Max More considère que le concept de Dieu est une notion primitive inventée par des gens superstitieux. Le processus d’évolution remplacera ces idées religieuses d’un autre âge qui font de l’homme le sommet de la création. L’homme doit prendre en charge sa propre évolution vers le progrès transhumain. Ni dieux, ni croyances : le futur est totalement posthumain.


BILL JOY

Bill Joy, patron de Sun Microsystems (2000) a découvert la SF pendant son adolescence, en particulier Heinlein (HaveSpacesuit) et Asimov (I robot). Sa série télé préférée est Star Trek qui l’a fortement impressionné. Dans cette série, l’homme incarne de hautes valeurs morales lui interdisant d’interférer avec les civilisations extraterrestres. Star Trek décrit un univers où les robots terriens sont au service des humains, tout en en montrant les dangers, par exemple lors de la guerre avec les Borgs, créatures mi-robots mi-hommes commandées par un cerveau électronique central. Les Borgs, ne sont en fait que des sortes de marionnettes téléguidées.

Pour Joy, en 2030, grâce à l’électronique moléculaire, les ordinateurs seront un milliard de fois plus puissants que ceux d’aujourd’hui. Le fait de participer à l’émergence d’une nouvelle espèce le met mal à l’aise. Les rêves de la robotique, selon lui, c’est de nous ramener à l’Eden, de nous apporter l’immortalité par le transfert des consciences dans les machines. Mais l’homme perdra son humanité dans le processus. Pour éviter des dérapages dangereux, il conseille de limiter la recherche dans certains domaines à danger potentiel : robotique, ingénierie génétique, nanotechnologie ; car les produits issus de ces recherches seront autorépliquants et ils risquent d’échapper à tout contrôle provoquant ainsi de graves nuisances (où l’on retrouve un scénario du type Planète hurlante).


Marvin MINSKY

Minsky, chercheur au MIT, (1994) pointe sur le désir immémorial de l’homme de trouver santé et longévité. Le futur, grâce aux avancées de la science et plus particulièrement de la cybernétique et de la nanotechnologie, doit permettre à l’humanité de changer corps et cerveaux. Une fois délivrés des limitations de la biologie, nous pourrons rallonger nos vies et nos capacités mentales. La technologie est nécessaire pour atteindre ce but. Pour Minsky, en tant qu’espèce, les limites de notre développement intellectuel sont atteintes. Pour lui comme pour Moravec : ces machines intelligentes sont nos enfants.

Hans MORAVEC (chercheur en robotique à Carnegie Mellon)

Pour Hans Moravec, le biologique est machine : « Les organismes vivants sont visiblement des machines lorsqu'on les considère à l'échelle moléculaire […] Certaines protéines sont dotées de parties mobiles, semblable à des gonds, à des ressorts ou à des loquets. D'autres sont essentiellement structurales, pareilles à des briques ou à des câbles. Les protéines des tissus musculaires travaillent comme des pistons crantés. » (Moravec, 1992, p.90) Il ne considère donc aucunement impossible une hybridation du biologique et de l’électronique moléculaire.

Le transfert de la psyché humaine dans ces machines du futur est pour lui une nécessité évolutive. C’est une transition nécessaire pour la survie des espèces du vivant. Il conçoit la possibilité suivante :« Un transmetteur de matière pourrait sonder un objet et identifier l'un après l'autre ses atomes ou molécules, en les démontant peut-être au fur et à mesure. L'identité de l'atome serait transmise à un récepteur dans lequel un duplicata de l'original serait assemblé à partir d'une provision d'atomes. Les difficultés techniques sont ahurissantes, mais le principe est enfantin, comme des millions de passionnés de Star Trek peuvent le certifier. » (Moravec, 1992, p.143). Et ce qui est valable pour la matière, l’est aussi pour l’esprit. Et il continue : « Être immortel de cette manière ne constitue qu’une protection temporaire contre l’absurde perte de savoir et d’activité qui est le pire aspect de la mort individuelle. » (Moravec, 1992, p.147-148).

Sa vision va loin : « Imaginez à présent un immense simulateur […] qui soit capable de modéliser la surface entière de la terre à l’échelle atomique et qui puisse faire tourner son modèle aussi bien dans le sens des temps croissants qu’à rebours, produisant différentes issues possibles en effectuant des choix aléatoires à des stades clés de son calcul. Étant donné son immense précision, le simulateur modélise les êtres vivants, y compris les humains, dans toute leur complexité. […] ces êtres seraient tout aussi réels que vous et moi, bien qu’emprisonnés dans le simulateur. […] Nous pourrions communiquer avec eux par une interface de type lunettes […] qui nous relierait à une « marionnette » à l’intérieur de la simulation […]. Nous pourrions tout aussi bien extraire des gens de la simulation par le processus inverse – relier leur esprit à un corps de robot extérieur, ou le charger directement dedans.[…] Cela pourrait être drôle de réveiller tous les morts de la terre et de leur donner l’occasion de partager avec nous l’immortalité des esprits transplantés. » (Moravec, 1992, p. 150-151)

Greg Egan, dans son roman "La cité des permutants" (1994), développe ce scénario. Science-fiction et prospective scientifique se répondent de manière de plus en plus serrée.


HUGO de GARIS se qualifie de « technoprophète »(chercheur au Starlab)

Hugo de Garis se définit "comme le "quatrième chevalier de l’Apocalypse, le plus ténébreux, celui de la guerre" aux côtés des trois autres figures emblématiques de la recherche sur les robots que sont Ray Kurzweil, Kevin Warwick et Hans Moravec." (Garis, 2001).

De Garis est certainement le plus passionné des chercheurs de l’IA. Il s’est donné comme objectif de créer le premier être artificiel intelligent dont les "descendants" seront des sortes de dieux comparés à nous. Devant une telle puissance, les hommes devront s’incliner ou disparaître. L’homme en temps qu’initiateur de sa propre destruction, voilà le scénario que nous propose de Garis. Dans sa vision du futur, le hommes se scinderont en deux clans : les Cosmistes et les Terrans.

Les Cosmistes s’engagent pour la promotion de la robotique et l’émergence d’une nouvelle espèce, les artilects (Artficial Intellects), semblables à des dieux et supérieurs aux humains.

Les Terrans opteront pour la protection de la race humaine et des anciennes valeurs, prônant l’interdiction de la recherche vers des voies dangereuses pour la pérennité de la vie humaine. (Asimov avait qualifié ce groupe de Fondamentalistes anti-robots (Les robots)).

Finalement, de Garis prévoit une guerre terrible entre Cosmistes et Terrans, générant des millions de morts. Pour de Garis, fabriquer des artilects est une sorte de religion scientifique. Ses machines pourront développer une conscience. De Garis voit l’homme comme une machine biologique, forcément imparfaite et primitive.

Le seul recours des humains sera de se fondre avec les artilects pour participer à cette nouvelle aventure que sera la conquête du cosmos. L’autre alternative, la plus sombre, est tout simplement la destruction de l’humanité et l’expansion sans limite des artilects dans le cosmos.


Ce qui nous amène à l’« Extropianisme »...

L’extropianisme est une philosophie transhumaniste et son but est de permettre à l’humain de transmigrer dans les machines, de se servir de celles-ci comme tremplin pour partir en exploration dans la galaxie. Essaimer, dans une perspective d’expansion, de conquête. On retrouve un nouvel esprit d’aventure, d’exploration de nouvelles frontières, d’un challenge qui éclate les limitations humaines. Pour les tenants de cette philosophie, l’humanité, dans son état actuel est vouée à progresser ou à disparaître. Progresser signifie s’hybrider avec les machines intelligentes.


Le mythe
Ces différentes croyances et représentations développées par les chercheurs en IA et en robotique et fondées d’une part sur les récits de science-fiction et sur la prospective scientifique, s’articulent comme une mythologie. En voici schématiquement la structure :

Le mythe d’origine : aux commencements était l’homme imparfait, « brouillon » d’humanité, étroitement limité dans le temps et l’espace car mortel.

Le paradigme : il n’y a plus de grand bond évolutif possible pour l’humanité en chair, vouée ainsi à stagner – et toute stagnation porte en elle le germe de la régression. L’homme peut toutefois créer l’être immortel, la machine intelligente, l’IA, pour le servir et lui servir à vaincre l’entropie, à évoluer, à se parfaire.

Le "Je", essence essentielle de l’homme, est « copiable » sur d’autres supports que le cerveau et transférable à volonté sur un/des corps immortels et dans des réseaux d’informations.

L’apocalypse : la fin de l’ancien monde est proche. L’humanité d’aujourd’hui est terminale et seules quelques décades nous séparent de la fin. Il est grand temps d’agir.

L’eschatologie : l’homme fusionnant avec l’IA est « sauvé », il acquiert la quasi immortalité par les supports qui le portent, ainsi que le pouvoir de développer indéfiniment son Je dans le temps, ce qui lui assure la négentropie. Et même, l’univers tout entier devient son champ de vie car, n’étant plus enfermé dans les fragilités de la chair, il peut voyager dans tous les espaces – y compris intersidéraux qui lui sont ouverts dès lors que le temps ne lui est plus chichement compté.

L’homme devient autre, à l’égal d’un dieu – dans cinquante ou cent ans – grâce à la science et aux technoprophètes…


Pour conclure

Nous sommes dans une période de transition ouvrant vers une nouvelle ère non encore définie. Celle-ci semble s’ouvrir vers le développement de technologies impliquant l’utilisation de procédés révolutionnaires dont on peut aujourd’hui observer les balbutiements.

Dans un futur proche, il est fortement probable qu’une ou plusieurs de ces technologies finisse par déboucher sur des applications dont on peut entrevoir les potentialités dans les récits de science-fiction des 25 dernières années. Les chercheurs spécialisés en robotique et en IA montrent une certaine propension à l’exagération de leurs idées d’avant-garde, certainement fortement influencée par la SF, notamment les récits cyberpunk. Il ne faut cependant pas oublier, et l’Histoire nous en a donné maintes fois la preuve, que la réalité est généralement différente de la prospective, mais que parfois, aussi, elle dépasse la fiction.

L’optimisme affiché par les chercheurs présentés dans cet exposé est fortement influencé par la loi de Gordon Moore qui prévoit un doublement de la puissance des processeurs tous les ans. Si, jusqu’à ce jour, cette prévision s’est révélée correcte, rien n’indique qu’elle le restera. Rien ne permet non plus d’affirmer que les nouvelles technologies si prometteuses (nanotechnologie, informatique moléculaire, hybridation biologique/électronique) puissent se révéler vraiment fonctionnelles.

Le transhumanisme est un nouvel habillage du Positivisme, du Progrès salvateur. Il est en cela une sorte d’idéologie scientiste, de philosophie de type religieux, dont les prophètes se veulent être des guides, des passeurs, pilotant l’humanité vers une nouvelle vie, semant une parole rédemptrice, annonçant un nouvel age d’or, un Eden véritable, ouvrant à un monde infini, hors-nature et hors-mort, une sorte de Paradis, peuplé des aventuriers/croisés du Cyberespace et de nos enfants/partenaires les artilects et autres animats qui, soit veilleront sur nous, soit nous emmèneront avec eux dans une aventure que nul humain ne peut encore s’imaginer.

Soit nous détruiront parce que trop imparfaits…

L’immortalité cybernétique : mouvement représenté par : (C. Joslyn, V. Turchin, F. Heylighen)

Ce posthumanisme est fortement imprégné de l’idée d’une immortalité postbiologique. La plupart des connaissances acquises durant la vie disparaissent avec la mort physique et seule une petite part de la connaissance ainsi accumulée est transmise à la descendance. Le transhumanisme défend l’idée de la conservation de cette connaissance et des expériences vécues par le transfert du mental, du « Je » dans un super-ordinateur. Les auteurs du manifeste de l’immortalité cybernétique avancent l’idée que notre société n’a plus de grand objectif.

Le déclin des religions traditionnelles implique la dégradation de la société moderne car, de leur point de vue, historiquement, grandes civilisations et grandes religions vont de pair. L’immortalité cybernétique (immortalité véritable) doit remplacer l’immortalité métaphysique (pure croyance) que proposaient les religions traditionnelles dans un nouveau dessein de civilisation.

Les opposants anti-machines

Les Néo-Luddites : le mouvement luddite = mouvement anti-machines. Pas encore très développé mais a déjà ses fondements idéologiques (mouvements anti-sciences, new-age, certains anti-mondialistes,…)

Les Terrans : voir Hugo de Garis

Bibliographie :

Asimov Isaac, "Les robots", J’Ai Lu, Paris, 1967
Cadigan Pat, "Les synthérétiques", Denoël, Paris, Paris, 1991, T1 & T2.
De Garis Hugo, "The brain builder", Wired, 12/1997.
Dick Philip K., "Deuxième variété", in L’Homme variable, Le Masque, Paris, 1975, p.131-203.
Dyens Olivier, "Chair et métal", VLB Éditeur, Montréal, 2000.
Egan Greg, "La cité des permutants", Le Livre de Poche, Paris, 1994.
Freyermuth Gundolf S., "Cyberland, Eine führung durch den High-Tech-Underground", Rowohlt, Berlin, 1996.
Ganascia Jean-Gabriel, "L’Intelligence Artificielle", Éd. Flammarion, Paris, 1993.
Garis De Hugo, "Buildin gods or building our potential exterminators", www.chairemetal.com/cm03/intro.htm, Bruxelles.
Joy Bill, "Why the future doesn’t need us, Wired", 08/04/2000.
Klein Gérard, "Histoire de machines", Le Livre de Poche, Paris, 1974, anthologie de nouvelles.
Klein Gérard, "Histoire de robots", Le Livre de Poche, Paris, 1974, anthologie de nouvelles.
Le Breton David, "L’adieu au corps2, Éd. Métailié, Paris, 1999.
Ligny Jean-Marc, "Les chants des IA au fond des réseaux", Éd. Baleine, Paris, 1999.
Meyer Jean-Arcady et Guillot Agnès, "La robotique évolutionniste", in Pour la Science, n°284, juin 2001 (voir site du LIP6 pour source).
Minsky Marvin L., "Will robots inherit the Earth ?", Scientific American, 10/1994.
Moravec Hans, "Une vie après la vie", Éd. Odile Jacob, Paris, 1992.
Rosnay Joël de, "Biologie et informatique – Promesses et menaces pour le XXIème siècle in Les défis de la technoscience", Ed. Complexe, Paris, 2001, p.15-26.
Roszak Théodore, "Puces", Le Livre de Poche, Paris, 1981.
Truong Jean-Michel, "Totalement inhumaine", Les empêcheurs de penser en rond, Paris, 2001.
Van Herp Jacques, "Panorama de la science-fiction", Lefrancq, Bruxelles, 1996.

L'évolution du thème des robots et des machines dans la SF et développement des différentes thèmes : les différents futurs de l’humain

QUELQUES DÉFINITIONS :

Androïde : Robot a forme humaine. (Du grec : 'andro': humain, homme et 'ide' : aspect, forme)
exemples : Terminator, Nexus 6

Cybernétique : Science du gouvernement. Science constitué par l'ensemble des théories relatives aux communications et à la régulation dans l'être vivant et la machine.

Cyborg : Le terme "Cyborg", apparu en 1960, a été crée à partir des mots CYBernétique et ORGanisme. Personnage se présentant comme un robot à forme humaine, constitué à la fois de chair vivante et de circuits intégrés. Un être humain dont le corps a été repris partiellement ou entièrement par des dispositifs électromécaniques. Mutants qui insistent sur le rapprochement entre le vivant et le non vivant dans une perspective « post-humaniste »
exemples : L'homme qui valait 3 Milliards, Robocop...

Droïde : Automates doués d'intelligence conçus afin de remplir des fonctions spécifiques. Ils sont généralement programmés pour exécuter des tâches trop complexes, dangereuses ou routinières pour être confiés à des êtres vivants. Leurs logiciels sont, en principe, spécialisés dans un ou deux domaines précis, ce qui limite considérablement leurs aptitudes. Ils sont, en outre, dépourvus, d'intuition et incapables de faire des associations d'idées, comme la plupart des êtres organiques. En plus de leur intelligence élevée et de leurs capacités d'apprentissages, ils sont souvent dotés d'une personnalité autonome, destinéà rendre leur compagnie plus agréable.
exemple : C3PO dans STARWARS...

Exosquelette : Structure extérieur (exo=extérieur, endo=intérieur) dure. Comparable à la carapace d'un insecte ou d'un crustacé qui fournit la protection ou l'appui pour un organisme. Une sorte d'armure naturelle.

Robot : Terme provenant de la pièce R.U.R, de l'auteur dramatique Karel Capek en 1921. D'après la racine slave "rab" qui signifie " esclave " et de laquelle est issu le mot tchèque et russe " robota " qui signifie " travail ". Dispositif mécanique qui peut se déplacer automatiquement pour exécuter des tâches.

Robot positronique : Robots possédant un cerveau fait d'une texture spongieuse en alliage de platine-iridium et dont l'empreinte cérébrale est déterminée par la production et la destructions des positrons. (Les robots d'Isaac Asimov sont des robots "positroniques").

Robotique : Ensemble des études et des techniques permettant l'élaboration d'automatismes capables de se substituer à l'homme dans certaines fonctions.
C'est Isaac Asimov qui a utilisé le mot "robotique" pour la première fois. Il en est l'inventeur.

Vie artificielle : La vie artificielle a été définit par Langton en 1989 comme étant l’étude de systèmes construits par l’homme qui présentent des comportements caractéristiques des systèmes vivants naturels.
Source : http://megatech.chez.tiscali.fr/

Arthur C. Clarke (écrivain anglais de SF ) estime que d'ici 50 ans apparaîtront des I.A qu'ils nomment des "artilects", et qui seront si supérieures à nous qu'elles pourraient bien nous considérer comme des animaux stupides voire nuisibles.

Source : http://megatech.chez.tiscali.fr/

PROPOS D’UN COSMISTE

SVP lisez le texte en entier et même en plusieurs fois. Hugo de Garis, son auteur, est entre autres titres docteur en intelligence artificielle. Il enseigne aux États-Unis.

1. Introduction

Je suis un fabriquant de cerveaux. Mon rêve et mon ambition dans la vie, c'est de construire (c'est-à-dire faire évoluer/développer) des cerveaux artificiels comprenant des milliards (et au delà) de cellules cérébrales artificielles, et avant ma retraite (d'ici à peu près 20 ans), de voir la fabrication de cerveaux devenir une des plus importantes industries au monde, comparable à la construction, l'électronique, l'automobile et le pétrole.

Je pense avoir trouvé une méthodologie rendant le développement d'une telle industrie possible. Si cela se produit, je serai très heureux, mais ce n'est pas le sujet de ce chapitre. La création de cerveaux artificiels, je pense, pourra être atteinte dans les quelques prochaines années (au moins avec des centaines de milliers de neurones artificiels organisés en des circuits fonctionnant à des vitesses électroniques, dans des machines spéciales que j'appelle Machines de Darwin).

Voilà pour le court terme et pour le moyen terme. Ce qui m'intéresse, c'est le long terme, c'est-à-dire plus loin dans le XXIème siècle, au cas où moi et d'autres constructeurs de cerveaux réussissions. Qu'adviendra-t-il alors ?

Je pense réellement qu’au siècle prochain, la question qui dominera la politique à l’échelle mondiale sera la suivante : qui ou que doit être l'espèce dominante sur la planète ? Au cas où cela vous semble idiot, considérez ce qui suit. Imaginez un ordinateur ayant mille milliards de milliards de milliards de composants.

Ce nombre rend ridicule celui des neurones que nous avons dans notre cerveau par un facteur 1018, c'est-à-dire qu'un milliard de milliard de cerveaux humains auraient autant de neurones que cet ordinateur a de composants. Je crois que nous (l'humanité) aurons de telles machines d'ici à quelques décennies. C'est écrit.

Aujourd'hui, nous disposons déjà de transistors à un seul électron et de la nano-électronique, c’est-à-dire de l'électronique à l'échelle moléculaire, ce qui va créer une capacité de stockage de 1 bit d'information par atome. Avec les circuits réversibles modernes, il est théoriquement possible de réaliser des calculs sur ordinateur sans dissipation thermique.

Il devient donc possible de construire des circuits 3D sans qu'ils ne fondent, comme le feraient les circuits traditionnels irréversibles s'ils étaient tridimensionnels. Avec les circuits adiabatiques (sans dissipation thermique), il sera possible de construire des tonnes de matériaux capables de calculer, et si on peut en fabriquer des tonnes, on peut fabriquer d'énormes ordinateurs ayant la taille d'un astéroïde, comprenant 1040 composants ou plus, en prenant les atomes de la ceinture d'astéroïdes (entre Mars et Jupiter, NDT).

À l'aide de la technologie quantique ponctuelle, il sera possible de construire des "atomes artificiels" ayant les propriétés électroniques que l'on désire. Les circuits pourraient être construits par des nano-robots assemblant des blocs de construction que les futures Machines de Darwin pourront utiliser pour développer des circuits ultra-complexes (trop complexes pour que les ingénieurs humains puissent les comprendre).

Comme ces circuits opéreraient à la vitesse électronique, c’est-à-dire un million de fois plus vite que la transmission neuronale dans le cerveau humain, et étant donné l'énorme supériorité dans la capacité de mémoire, dans la complexité et le nombre des palpeurs qui pourraient être attachés à de tels dispositifs, il est clair pour n'importe quelle personne informée que la possibilité pour cet ordinateur de générer de l'intelligence est très, très largement supérieure à celle d'un cerveau humain avec ses ridicules 1000 milliards de neurones.

C'est pourquoi je pense que ce n'est qu'une question de temps pour que l'accroissement continuel des aptitudes des ordinateurs ne commence à générer ce que j'appelle le " débat sur l'espèce dominante ". Pour le moment, ce que je dis semble de la science fiction pour la plupart des gens, et par conséquent, ils ne le prennent pas au sérieux ou ne se sentent pas concernés.

Mais je suis un fabriquant de cerveaux. Je suis une de ces personnes qui sont en train de créer ce problème. Je suis aussi un ex-physicien théoricien, et j'ai conscience que mes ex-collègues de la génération précédente ont fabriqué un appareil de destruction massive qui aurait pu anéantir la vie sur la planète à la suite de la crise des missiles cubains de 1962.

Je vis au Japon, et je me suis délibérément rendu à Hiroshima pour voir par moi-même quelles horreurs les scientifiques sont capables d'infliger indirectement à l'humanité. J'ai été profondément bouleversé, et chaque fois que je donne une conférence à propos de la fabrication de cerveaux et du futur, ma gorge se serre à l'évocation de ce que j'ai vu au musée de Hiroshima (des femmes et des enfants avec leur peau tombant par bandes de 20 cm, des bouteilles de vin fondues, etc.).

Cette expérience m'a rendu très conscient de la nécessité pour les scientifiques de réfléchir aux conséquences sociales et politiques de leurs travaux. Dans mon cas, d'un côté je suis passionnément impliqué dans mon rêve de construire des cerveaux artificiels, et de l'autre j'écris des articles tels que celui-ci, essayant de faire prendre conscience à l'humanité des conséquences à long terme de la fabrication de cerveaux, si elle se voyait couronnée de succès.

À moyen terme, des cerveaux artificiels ayant l'intelligence d'un chimpanzé seraient très utiles (tant qu'ils seraient totalement obéissants). Ils pourraient être utilisés pour nettoyer la maison. Chaque lieu d'affluence en aurait un, et ça créerait le marché d'une des plus grosses industries du monde. Les cerveaux comme les ordinateurs pourraient devenir des compagnons personnalisés.

On peut imaginer que de telles machines sauraient parler, entendre et faire rire. Il serait possible d'avoir une sorte de "relation" avec de telles machines. Mais ce qui me préoccupe, c'est la comparaison numériquement inconcevable entre le nombre de neurones dans un cerveau humain et la possibilité d'obtenir des machines à 1030 composants.

Je peux imaginer que le domaine de la construction de cerveaux va s'étendre, à mesure que de plus en plus de circuits neuronaux pourront être développés, ainsi que leur interconnexion et les systèmes de contrôle, etc. Année après année, des appareils offrant toujours plus de possibilités seront introduits sur le marché, de sorte que les gens ordinaires pourront s'impliquer dans des questions telles que "Où est-ce que tout cela nous mène ?", "Jusqu'à quel degré d'intelligence devons-nous permettre que ces machines soient développées ?" "Les scientifiques nous disent que les machines ont le potentiel de dépasser largement les êtres humains, et il est clair qu'elles deviennent chaque année plus intelligentes", alors où et quand allons-nous dire "stop !" ? "Faut-il vraiment dire stop à un moment donné ?"

De telles questions seront d'actualité et deviendront très communes dès que les machines commenceront vraiment à reposer sur la technologie des cerveaux artificiels que moi et d'autres gens sommes en train de développer. Je continue à penser que si je représente une partie du problème, j'aimerais aussi être une partie de la solution (s'il y en a une).

Une des choses que je voudrais faire, à part construire des cerveaux, c'est rendre les gens conscients que le "débat sur l'espèce dominante" arrive, de façon à ce qu'ils aient le temps d'y réfléchir avant que les machines ne deviennent trop intelligentes. Je nomme ces machines ultra-intelligentes des "artilects" (pour "artificial intellect"). Je parle ainsi parfois du "débat sur les artilects" ou de la "question des artilects".

Comme je l'ai dit plus haut, je pense que ce débat déterminera les grandes lignes de la politique générale du XXIème siècle. Pour faire bref, je soupçonne fortement que les controverses sur la question des artilects seront si âpres qu'une guerre, disons une guerre à la mode du XXIème siècle, sera inévitable. Je suis très pessimiste sur cette question, et elle me tient éveillé la nuit trop fréquemment pour le bien de ma santé.

Bien sûr j'aimerais être plus optimiste quant à l'issue, sur le long terme, de la fabrication de cerveaux, mais sous quelque angle que je retourne le problème et quel que soit le scénario, parmi les nombreux possibles, auquel j'essaie de penser, je finis toujours avec quelque chose de vraiment terrible.

Bien sûr, il n'est pas difficile d'échafauder un scénario positif, dans lequel les machines et les êtres humains vivent en harmonie (scénario favori des femmes avec lesquelles je parle de cela), mais je trouve ces scénarios irréalistes. J'espère que les événements prouveront que j'ai tort, mais mon instinct me dit que le monde est bon pour un XXIème siècle des plus perturbés sur le plan de la politique générale.

Si tel est le cas, c'est vraiment dommage, parce que notre planète entre en ce moment dans une période de grande paix, dans laquelle les télécommunications rétrécissent à ce point la planète que l'idée d'un langage global et d'un gouvernement global semble assez réaliste pour les quelques décennies à venir.

Pour chaque citoyen global ayant sa montre émetteur/récepteur (sans distorsion), grâce aux intersatellites de communication, les programmes télé tombant du ciel par centaines depuis les satellites à orbite stationnaire, à 90% en anglais, vont provoquer un effet boule de neige sur tous ceux qui pourront parler et comprendre le langage mondial. Les idées vont alors se répandre rapidement, provoquant une homogénéisation culturelle et, partant, une compréhension bien supérieure entre les gens, jusqu’à ce qu’ils deviennent essentiellement un seul immense peuple planétaire.
Tel est l'avenir que je vois pour l'humanité dans les prochaines décennies, et je m'en réjouis.

Une fois que les superpuissances se seront entendues, c'est-à-dire une fois que la Chine aura eu sa révolution démocratique et que la Russie sera bien engagé dans la voie vers la démocratie prospère, elles pourront imposer un gouvernement mondial sur les pays mineurs, les obligeant à obéir aux décisions du gouvernement mondial et à la cours de justice mondiale lorsque des conflits de politique internationale éclateront. Les milliers de milliards de dollars gaspillés en armes aujourd'hui pourront alors être utilisés pour augmenter le niveau de vie de chacun, même des africains.

La question ayant le plus divisé l'humanité aux XIXe et XXe siècles a été : "Qui doit posséder les usines, c’est-à-dire les machines ?"

Certains pensaient que les machines devaient être entre des mains privées, et d'autres pensaient qu'elles devaient appartenir à tout le monde, c'est-à-dire à l'État. Au début de la révolution industrielle, l'exploitation économique faisait rage, et les propriétaires d'usines sont devenus riches en payant aux ouvriers des salaires de subsistance.

Lorsque ces ouvriers sont devenus conscients que les propriétaires s'enrichissaient par leur travail à eux, ils sont devenus amers et en colère. Lorsque quelqu'un sent qu'il est exploité et qu'une injustice est commise envers lui, il devient enragé jusqu'à tuer...

Comme on le sait bien, les courants intellectuels en Europe au XIXe siècle ont commencé à se concentrer sur les solutions aux effets pervers du capitalisme du début du XIXe siècle.

Les socialistes voulurent collectiviser les usines et en partager les biens : les bénéfices réalisés à partir de la vente des produits fabriqués par les machines reviendraient à l'état, qui en retour paierait à chacun un salaire en rapport avec sa valeur pour la société. Pour beaucoup de gens, l'idée marxiste était très séduisante, et au XXe siècle, de nombreux gouvernements se sont constitués à partir de ces idéaux.

Entre temps, les travailleurs des premiers pays industrialisés ont imposé des réformes politiques telles que le suffrage universel (pour les hommes), le droit de former des syndicats, des partis politiques défendant les travailleurs, un système de taxation progressive, etc., qui vinrent largement à bout du côté inhumain du capitalisme.

Après bientôt un siècle d'expérience communiste, il est maintenant clair que ça ne marche pas. Les régimes communistes ont disparu de la surface du globe. Il est clair que les possibilités offertes à des individualistes entreprenants et financièrement intéressés génèrent plus de richesses et donc plus de bien-être pour les gens (pour peu que les réformes indiquées aient été mises en place) que les économies abrutissantes planifiées par un comité central et contrôlées par la bureaucratie.
Mais il s'en est vraiment fallu de peu.

Il n'était pas si évident de savoir laquelle des deux alternatives majeures quant à l'organisation économique et sociale allaient l'emporter. Les deux régimes, les deux idéologies se haïssaient tellement qu'à la limite elles étaient prêtes à s'anéantir mutuellement dans un holocauste nucléaire.

Heureusement, les armes atomiques sont si destructrices que les politiciens et les généraux ne se sentaient plus en sécurité "à l'intérieur de leurs frontières", comme pour les guerres traditionnelles, car soit ils se seraient tués eux-mêmes dans l'échange nucléaire, soit ils auraient été massacrés par leurs compatriotes survivants, dans une sorte de " châsse aux sorcières " anti-politiques et anti-généraux.

Dieu merci, il semble que tout cela soit terminé. Nous pouvons dormir plus profondément la nuit, sachant que la "guerre froide" est finie. Mais l’est-elle vraiment ? Je ne fais pas allusion à une reprise du vieux conflit idéologique entre capitalisme et communisme, mais à un nouveau conflit, plus amer encore parce que les enjeux en sont bien supérieurs.

La question "Qui doit posséder le capital ?" est triviale à côté de "Qui ou que doit être l'espèce dominante ?", parce que cette dernière question peut faire intervenir l'idée que l'essor des artilects sera peut-être le signal de l'anéantissement de l'espèce humaine. Qu'y a-t-il de plus important pour les êtres humains que la survie de leur propre espèce ? L'enjeu est potentiellement énorme.

Je crois que l'ère de paix dans laquelle nous vivons aujourd'hui ne durera que quelques décennies, car l'implacable controverse du récent passé, entre capitalistes et communistes, va être remplacée par une nouvelle dichotomie entre les "terrans" et les "cosmistes".

2. Le cosmisme

Je vois l'humanité du XXIe siècle se séparer en deux groupes politiques majeurs, ceux (probablement la majorité) qui auront le sentiment que les êtres humains doivent rester l'espèce dominante (les "terrans"), et ceux qui penseront qu'il faut donner la chance aux machines de devenir la prochaine forme d'espèce dominante, transcendant les limitations des êtres humains (les "cosmistes").

La première motivation des terrans, je pense que ce sera la peur - la peur d'être exterminés par une espèce largement supérieure, et la peur de l'inconnu et de l'inconnaissable. La motivation première des cosmistes, il me semble que ce sera l'émerveillement.

Personnellement, je partage les vues de chacun des deux groupes, mais au bout du compte, serais-je terrans ou cosmiste ? Pas facile à dire ! Essayons d'approfondir ces deux points de vue principaux. Je commence par les cosmistes car ce sont eux qui introduiront quelque chose de nouveau dans la politique générale, à savoir l'idée qu'on devrait permettre aux machines de devenir des artilects.

Le terrestrisme sera une réaction au cosmisme. Pour l'heure il n'y a pas de débat, car l'état de la technologie ne permet pas de produire des artilects; mais la nano-technologie, et plus spécialement la nano-électronique, va rendre une telle chose possible.

C'est pourquoi ce chapitre est approprié dans ce livre sur la nano-tech (Drexler 1992). Le cosmisme est une idéologie du XXIe siècle parce qu'elle nécessite la technologie du XXIe siècle. L'initiative reposera dans les mains des cosmistes. Mais à quoi les cosmistes croient-ils donc ? (En d'autres termes, que va proposer, selon moi, le groupe à venir de gens favorables à la production d'artilects, d'un point de vue politique ?)

Pour répondre à cette question, je vais essayer de faire appel à votre intuition, à vos instincts émotionnels. À quand remonte la dernière fois où vous êtes allés à l'étranger, loin des lumières des villes, par une nuit sans Lune, dormant à la belle étoile ? Peut-être à jamais, mais si cela vous est déjà arrivé, fixant la Voie Lactée, n'avez-vous pas été submergé par l'insignifiance de l'existence humaine ?

Vous avez peut-être été tourmenté par les points majeurs de votre vie, "Sue se mariera-t-elle avec moi ?", "Obtiendrai-je celle promotion ?", "Ma tumeur est-elle cancéreuse ?", etc., etc. Réponse ? "Peu importe !" Il y a un million de milliards de milliards d'étoiles, la plupart d'entre elles (au moins les étoiles de seconde génération) ont probablement des systèmes planétaires, et certaines sont des milliards d'années plus anciennes que notre système solaire. Il y a donc probablement là-bas des millions et des millions de civilisations.

Qui s'inquiète que vous puissiez mourir l'année prochaine ou que vous deviez vendre votre maison parce que vous ne pouvez plus payer votre hypothèque après votre licenciement, et que votre femme vous ait quitté en prenant les enfants, et que vous ayez perdu tous vos amis parce que vous picolez, et que vous ayez un problème de cœur à force de trop manger et d’avoir beaucoup trop fumé toutes ces dernières années.
Qui s'en inquiète ? Votre petite vie est insignifiante comparée à ce que vous voyez en regardant les étoiles. Il y a de plus grandes choses, plus hautes, des questions d'intérêt cosmique. Des grandes questions du type : "Pourquoi y a-t-il de la matière ?", "Quel est le but de l'existence, si toutefois il y en a un ?" Les cosmistes s'intéressent à ces questions cosmiques.

Le cosmisme est une "religion de scientifiques", c’est-à-dire une religion dans le sens où les religions traditionnelles stimulent et dirigent les vies de groupes de gens. Dans le cas du cosmisme, des milliards de gens seront impliqués, parce qu'il y va de la destinée de l'espèce humaine. Les religions traditionnelles et les sectes modernes ne sont pas scientifiques.

Certaines prétendent l'être, mais la plupart ne sont que des dogmes superstitieux, basés sur des idées que la connaissance scientifique regarde avec mépris. Peu de peuples ayant l'esprit critique et une éducation scientifique sont religieux. Mais le cosmisme est essentiellement une vision ou une entreprise scientifique.

Mais sa nature est très "high-tech". Ses croyances sont pratiquement compatibles avec les dernières connaissances scientifiques, et pour cette raison, elles ne sont pas facilement réfutées par les scientifiques cyniques qui traitent avec dérision (dans les cultures occidentales) des superstitions vieilles de deux mille ans telles l'idée de la vie après la mort, la résurrection, l'enfantement par des vierges ou autres.
L'impulsion religieuse est probablement présente en chacun de nous. C'est une des quelques constantes culturelles universelles, comme le tabou de l'inceste.

Pratiquement toutes les cultures (quelques 5000 à 10000 sur la planète) ont inventé leurs propres Dieux.

Pour ma part, j'aimerais bien croire en quelque chose qui me donne une direction, ou même un certain sens de l'émerveillement ou de l'exaltation, mais qui soit également compatible avec ma connaissance scientifique et mon cynique esprit critique. Le cosmisme serait un sérieux candidat pour une telle " religion " ou idéologie.

Peut-être que le mot "religion" est mieux adapté que le mot idéologie, parce que si on se demande quelle différence il y a entre les deux (elles ont en effet de nombreuses caractéristiques communes), la réponse qui vient évidemment tout de suite à l’esprit est qu'une religion implique généralement la croyance en une sorte de super être ayant des pouvoirs supérieurs à ceux des êtres humains, qui peuvent souvent l'influencer pour leurs propres avantages.

Les cosmistes pourraient penser que les artilects seraient les nouveaux dieux, sans doute plus capable que les êtres humains de répondre aux grandes questions, et d'explorer et comprendre le cosmos éminemment mystérieux. D'où le mot "cosmisme". Les horizons des cosmistes sont cosmiques. Les horizons des terrans sont largement terrestres et centrés sur l'humain.

A moyen terme, c’est-à-dire d'ici à plusieurs décennies, le développement des cerveaux artificiels sera probablement très profitable, et c'est pourquoi il se poursuivra avec vigueur. Je peux donc me sentir non coupable pour un moment.
J'ai une amie japonaise à qui je dis pour plaisanter, "Si je réussis à fabriquer des cerveaux et si plus tard une guerre Cosmistes-Terrans éclate, des gens te diront que tu aurais dû me tuer quand j'étais plus jeune". "Tu veux dire maintenant ?", plaisante-t-elle en retour. Je ne pense pas que le débat sur les artilects débutera avant que les machines ne commencent vraiment à montrer des signes d'aptitudes comparables à un cerveau et un vaste répertoire de comportements.

Un de mes buts personnels, par exemple, est de voir un projet de recherche et de développement du type "objectif Lune pour la NASA" pris en charge par le gouvernement japonais et destiné à la construction de cerveaux artificiels, utilisant les qualifications de milliers de gens. Je n'ai certainement pas l'intention de diriger une pareille entreprise, mais j'aimerais vraiment voir un tel projet émerger. Je crois que ça vient.

Construire un cerveau artificiel vraiment compétent sera une entreprise énorme. Les répercussions aussi seront colossales. L'industrie pourra en prendre les résultats et les incorporer à de nombreux produits "intelligents".

Des chercheurs tels que moi auront exposé le pour et le contre du cosmisme pendant des années et auront probablement été largement ignorés, en raison de son apparence de science fiction.

Mais une fois que des millions de gens, année après année, auront vu de leurs propres yeux l'augmentation de l'intelligence de leurs machines, ils commenceront à réfléchir et, à terme, un grand débat s'installera. Entre temps, les machines continueront à devenir de plus en plus intelligentes. Tôt ou tard, une sorte d'incident tirera l'humanité de son sommeil.
Par exemple les robots ménagers pourraient commencer à répondre à leurs propriétaires, ou les effrayer avec leurs processus de pensée des millions de fois plus rapides. Lorsqu'ils seront confrontés "chair contre métal" à un corps étranger émergeant d'une compagnie industrielle qui ne cesse d'améliorer ces produits chaque année, il faut s'attendre à ce que des millions de gens soient forcés de considérer la "question des artilects".

Ce n'est qu'une question de temps. Sans doute les premières versions d'artilects, c’est-à-dire ayant une intelligence quasi humaine, vont-ils commencer à prendre des décisions avec lesquelles les êtres humains ne seront pas d'accords ou qu'ils ne comprendront pas.

Les artilects pourraient tenter d'expliquer mais ne pas être compris. S'ils sont vraiment intelligents, ils parviendront à éviter les objections des hommes. Le problème de maintenir à tout moment les artilects comme des esclaves dociles et obéissants est un problème clé.

Les "trois lois de la robotique" d’Asimov sont ici pertinentes en tant que tentatives de formuler des règles concernant les caractéristiques des futurs artilects.

Cependant, je doute qu'une intelligence artilectuelle et une obéissance totale soient compatibles, auquel cas les idées d'Asimov sont sans valeur pour les artilects avancés.

Dans l'appendice, je présenterai mon travail sur la fabrication de cerveaux, montrant comment il est possible de construire des cerveaux artificiels (sous une forme élémentaire pour l'instant, avec à peu près 100 000 neurones) sans comprendre comment ils fonctionnent. Ils sont trop complexes, mais il est néanmoins possible de les construire sur un mode darwinien, en utilisant une méthodologie que j'appelle "ingénierie évolutionnaire". Construire un cerveau artificiel avec un milliard de neurones (mon rêve pour le XXIe siècle) ne sera pas possible avec les techniques d'ingénierie traditionnelle.

D'ordinaire les ingénieurs dessinent un plan pour construire quelque chose, impliquant qu'ils comprennent comment cette chose fonctionne, et ensuite ils la fabriquent. Cependant, avec l'ingénierie évolutionnaire — un concept que j'ai aidé à introduire — il est possible de construire avec succès quelque chose dont on ne comprend pas complètement le fonctionnement. On utilise simplement une forme de jeu d'instructions linéaires pour spécifier (à un bas niveau) comment il faut construire un système ou comment il devrait fonctionner.

On emploie une série de telles instructions linéaires, chacune un peu différente des autres. Celles qui par hasard produisent un système qui fonctionne bien selon un certain critère humain, survivent et ont plus de descendants dans la génération suivante.

En faisant des changement aveugles et aléatoires dans les instructions, il est possible de générer des systèmes supérieurs par le hasard. Ces chaînes d'instructions supérieures commencent alors à dominer la population, jusqu'à la prochaine mutation favorable, etc...

La nature a employé cette technique de mutation et sélection pendant des milliards d'années et nous a produit, nous, comme résultat, et probablement des millions et des millions d'autres intelligences extra-terrestres à travers le cosmos.

L'ingénierie évolutionnaire est probablement le seul moyen efficace dont disposeront les scientifiques et les ingénieurs pour construire des cerveaux artificiels. Leur complexité, avec leur nombre énorme de neurones et de circuits, sera monstrueuse, et s’étendra au delà de la compréhension humaine. Cependant, je développe couramment des modules de circuits neuronaux avec leurs interconnexions, qui réalisent ce que je veux. Je ne comprend pas comment elles fonctionnent, mais elles le font.

Je peux imaginer, dans quelques décennies, une armée d'ingénieurs "développeurs de cerveaux", avec une armée de Machines de Darwin, qui construiront des cerveaux artificiels avec des milliers, sinon des millions de modules neuronaux, sans rien comprendre de leur fonctionnement.

C'est cette ignorance fondamentale de la structure et du fonctionnement des artilects issus de l'ingénierie évolutionnaire qui constituera la base des objections intellectuelles des terrans.

Les terrans diront que les artilects sont fondamentalement non compréhensibles, et que donc leur comportement est imprévisible. Ils sont tout simplement trop complexes. À mesure que leur intelligence augmentera, leurs actions deviendront de plus en plus menaçantes, parce que leurs plus gros intellects leur permettront de faire aux êtres humains plus de choses menaçantes.

Les êtres humains ne pourront jamais être sûrs de l'attitude que les artilects adopteront envers eux. En tant qu'humains, nous tuons couramment des animaux pour la nourriture, le sport, ou juste comme ça. Nous ne pourrons jamais être certains que les artilects ne traiteront pas les êtres humains de la même manière.

Ainsi, pour que nous soyons en sécurité, il est bien possible qu'une législation générale soit vraiment adoptée, interdisant le développement des artilects au delà d'un certain niveau d'intelligence.

Cette législation résultera probablement de la montée des protestations du public à propos de la menace grandissante provoquée par la nature toujours plus artilectuelle des machines et la puissance croissante que celles-ci exerceront sur les êtres humains.

La création elle-même de cette législation sera le résultat d'un énorme débat. La minorité cosmiste ne sera probablement pas d'accord et il se peut qu'elle devienne clandestine. Pour les cosmistes, il sera extrêmement frustrant d'arrêter le développement des artilects.

La curiosité naturelle du scientifique sera stoppée par un tel interdit, et ce sera l'anathème pour ceux des scientifiques qui seront des cosmistes.

L'interdiction du développement artilectuel séparera vraiment la chèvre et le chou, c'est-à-dire les terrans et les cosmistes. Les cosmistes les plus fervents seront les plus frustrés et commenceront probablement à organiser leurs propres institutions politiques.

Dans une organisation globale (à l’échelle planétaire, NDT), il n'y aura probablement plus de corrélation entre la géographie et l'idéologie. Dans une culture globale, les points de vue idéologiques seront sans doute plus basés sur des différences de personnalité que sur des différences culturelles.

Dans une culture globale et homogénéisée, de telles différences seront minimales.
Alors comment les cosmistes vont-ils réagir à une interdiction générale de leurs activités futures ? Une idée est de former leur propre État, un peu comme les juifs en Israël et les Mormons en Utah.

Les cosmistes pourraient acheter de grandes zones de terrains dans des endroits peu chers de la planète, et sélectionner comme citoyens ceux qui veulent construire des artilects. Ceux des cosmistes qui auraient de sérieux remords et qui ne s'en cacheraient pas pourraient être exclus de la colonie, et pourraient retourner vers la majorité terrans.

Mais les terrans permettront-ils seulement à une telle colonie cosmiste de s'établir sur Terre ? On peut imaginer leurs arguments : "Qu'adviendra-t-il si les cosmistes réussissent dans leurs expériences artilectuelles ?"

Les artilects seraient alors sur Terre, constituant une menace non seulement pour les cosmistes, mais plus encore pour les terrans. Ceci serait trop dangereux pour les terréens pour être toléré, et les colonies cosmistes seraient alors interdites pour menace d'anéantissement total.

À la limite, si l'existence de micro-colonies cosmistes secrètes était découverte, elles seraient exterminées par voies militaires (i.e. "atomisées"). Les cosmistes ne seraient pas même arrêtés ou jugés. On peut assez bien imaginer que la peur des terrans devant un éventuel succès des cosmistes serait si grande, et la menace pour l'humanité si importante, qu'une justification de la vaporisation des colonies cosmistes secrètes serait facilement trouvée.

Devant une telle opposition terrans, les cosmistes, poussés par une ferveur religieuse pour promouvoir le "grand dessein" - les "questions cosmiques", dédaigneront les terrans et feront tout ce qu'ils peuvent pour obtenir la liberté de développer leurs artilects. Une autre possibilité est qu'à l'aide de la technologie du XXIe siècle, il soit possible de lancer de nombreux cosmistes hors de la Terre, pour qu'ils puissent fabriquer leurs artilects ailleurs.

Mais il se peut que la Terre soit considérée par les artilects comme un endroit très précieux, et qu'ils souhaitent y revenir. L'hostilité des terrans pour les artilects ferait des êtres humains une menace pour ces derniers. Qui sait ce que les artilects pourraient faire à une race aussi inférieure que celle des terrans.

L'éventualité d'un tel retour des artilects motiverait à l'avance l'interdiction par les terrans de tout exode extra-planétaire cosmiste. C'est encore trop dangereux. Ainsi le rêve des cosmistes de s'évader dans les profondeurs de l'espace, de voyager vers d'autres étoiles pour bâtir leurs colonies cosmistes serait stoppé. La frustration des cosmistes ne peut que croître.

A terme, il est probable qu'ils réalisent que le seul moyen qu'ils aient pour faire ce qu'il désirent, c'est d'employer la force des armes militaires.

Je peux imaginer les stratèges cosmistes préparer la création de lointaines colonies cosmistes, si loin de la Terre que la plupart des terriens ne seraient pas tellement inquiétés par la menace d'un succès artilectuel des cosmistes.

Les cosmistes pourraient suivre une sorte de stratégie d'évasion, d'abord à petite échelle, allant de plus en plus loin de la Terre, à chaque fois qu'il y aurait une menace de la part des terrans. À terme, les cosmistes peuvent être en mesure de s'établir avec suffisamment de force pour être capables de se défendre par eux-mêmes contre une attaque terrans.

Le scénario que je dépeins est celui d'une vigilance continuelle de la part des terrans, et d'un désir similaire de la part des cosmistes de développer des artilects. Je vois une guerre continue entre ces deux groupes, à présent séparés géographiquement, mais cette fois non pas sur une échelle planétaire, mais sur l'échelle interstellaire du XXIe siècle.

Le cosmos est immense, de sorte qu'il devrait y avoir suffisamment d'espace pour que terrans et cosmistes existent presque indépendamment les uns des autres. Le gros problème est d'atteindre un tel état. Les terrans pourraient toujours prétendre que si les artilects existent, leur intelligence supérieure leur permettrait de rejoindre la Terre s'ils le souhaitaient, quelle que soit la distance à laquelle ils se trouvent. S'ils avaient pu aller si loin, ils pourraient revenir sur Terre, ce remarquable bien foncier.

Mais revenons à la question de savoir si je suis un cosmiste ou un terréen. Et bien, je pense que je suis un cosmiste, avec suffisamment de terrans en moi pour ne pas vouloir être écrasé comme un moustique par un artilect, mais néanmoins je veux voir construits des artilects, de préférence loin de la Terre.

Je pense qu'il serait tragique à l'échelle cosmique si l'évolution de la nature, qui est allée des particules élémentaires jusqu'à des créatures intelligentes comme nous-mêmes, devait s'arrêter au niveau humain, étant donnée la supériorité tellement énorme du potentiel de l'ordinateur.

Cette opinion qui est la mienne, je peux imaginer qu'elle soit partagée par de nombreuses personnes, de sorte qu'il n'y aura pas pénurie de sympathisants cosmistes. Cependant les politiciens et les stratèges terrans durs ne permettront pas à de pareilles sympathies de prendre forme concrètement. C'est trop dangereux.

C'est pourquoi je ne vois pas de voies pacifiques pour sortir de ce terrible dilemme. C'est ainsi que la guerre du XXIe siècle se déclenchera, selon moi. Elle sera nucléaire par sa forme, et totale, au sens où les terrans voudront éliminer complètement les cosmistes.

D'un autre côté, il se peut que les cosmistes aient quelque sympathie pour l'opinion des terrans, car ils sont humains eux aussi, mais la différence est qu'ils sont prêts à courir le risque de la menace des artilects, parce qu'ils voient la "montée des artilects" comme leur première raison d'être (en français dans le texte, NDT).

3. Discussion

Bien sûr je ne peux pas prédire le futur, et mon avis est inévitablement très personnel. Dans ce paragraphe, je tenterai d'anticiper les objections aux opinions présentées ci-dessus.

Tout d'abord, pourquoi devrait-il vraiment y avoir une menace de la part des artilects ? Ne serait-il pas possible de fabriquer des artilects qui seraient merveilleusement utiles pour les êtres humains, mais qui seraient sûrs et s'assiéraient tranquillement dans un coin, totalement inoffensifs ? Bien sûr qu'il serait possible de construire de telles machines, et peut-être seraient-elles hautement intelligentes.

Mais on se demande si l'intelligence artificiel peut-être placée dans une boîte stationnaire. Le mouvement n'est-il pas nécessaire pour interagir avec le monde ? Sinon, comment est-il possible d'apprendre des choses sur l'environnement.
On peut imaginer un ordinateur restant dans un coin et ayant des yeux, mais comment pourrait-il vérifier ses hypothèses visuelles sur le monde s'il ne peut pas toucher ce qu'il voit ?

Je soupçonne fortement que la notion de mouvement soit essentielle pour générer l'intelligence. Selon cette opinion, des robots mobiles seront le véhicule de l'intelligence artificielle. Mais des robots mobiles sont potentiellement dangereux.

Grâce à leur mobilité, ils pourraient tuer des gens s'ils le décidaient. Un ordinateur stationnaire, sans membres pour manipuler son monde, est inoffensif. À moins qu'il ne puisse se mouvoir indirectement, en persuadant des êtres humains de faire des choses pour lui. Le développement de l'intelligence pré-humaine dans les artilects se fera presque certainement dans des robots mobiles.

Une coexistence pacifique entre les artilects et les humains n'est-elle pas possible ? Regardez les humains et les arbres. Chacun a son propre créneau, et ça fait des millions d'années qu'ils vivent ensemble. Les artilects et les humains ne pourraient-ils pas vivre ensemble pacifiquement, simplement en s'ignorant les uns les autres ? Les humains ne comprendront pas comment les artilects occupent leur temps.
Les artilects trouveront probablement les humains totalement inintéressants, étant donné qu'ils sont si lents à penser, à savoir un million de fois plus lents, et qu’ils ont une capacité de mémoire lourdement inférieure.

Ce scénario est possible, je pense, mais sa grande faiblesse est son incertitude. Les êtres humains n'auraient aucun moyen de savoir ce que les artilects pensent d'eux. Les artilects ne sont pas humains. Du point de vue des êtres humains, les artilects sont absolument étrangers, et dès lors capables de générer toutes les réactions de peur que l'évolution a fabriquées et introduites en nous pendant des millions d'années.

L'inconnu a souvent été une menace de mort, et était évité ou tué, comme les tigres ou les serpents, etc. Puisque nous ne savons pas comment les artilects seront, nous devons être prudents. Les politiciens ont un dicton, "espérons le meilleur, préparons-nous au pire".

Le pire dans les scénarios avec artilects, c'est l'anéantissement de l'espèce humaine par une espèce supérieure d'artilects. En anticipant sur cette éventualité, et étant donné l'ultime importance des enjeux, l'option consistant à autoriser la construction d'artilects (du point de vue des terrans) ne doit pas être tolérée.

Est-il possible que la production d'artilects soit inévitable, et qu'on ne puisse pas l'arrêter du tout ?

Comme je l'ai dit plus haut, je pense que la fabrication d'artilects finira par être une des toutes premières industries mondiales...

D'énormes investissements de capitaux seront consacrés à la création des premiers artilects, avant qu'ils ne deviennent une menace potentielle. Les problèmes arriveront une fois que les artilects commenceront à approcher des niveaux d'intelligence humains.

Quand les vies de millions de personnes seront économiquement tributaires de la création et de l'utilisation des artilects de bas niveau, comment sera-t-il possible d'arrêter la machine ? On peut imaginer : "Oh, juste cette petite nouveauté supplémentaire sur les artilects de la compagnie !" Ce sera difficile de vaincre ce genre d'incrémentalisme.

En pratique, il y a des chances que la fabrication de cerveaux procède rapidement, jusqu'à ce que les niveaux d'intelligence humains soient atteints ou approchés. Si aucun événement vraiment négatif ne se produit jusqu'à ce point, alors le développement des artilects sera probablement ininterrompu.

Que se passera-t-il lorsque les artilects atteindront le niveau humain ? On peut imaginer certains responsables réclamer l'intelligence artilectuelle super humaine, pour différentes raisons, par exemple : " Oh nous avons besoin d'un ordinateur superintelligent pour contrôler la politique économique à notre place.

L'économie est si complexe qu'aucun économiste humain ne peut la suivre, mais un ordinateur superintelligent en serait capable. Voilà pourquoi nous devrions en avoir un. Les physiciens pourraient argumenter que leurs théories sont trop complexes pour être facilement comprises. Peut-être qu'un artilect pourrait se représenter comment le monde fonctionne et l'expliquer aux physiciens humains.

Peut-être l'argument le plus fort en faveur de la construction d'artilects sera-t-il la pure fascination de ce que nous soyons capables d'une telle chose. Il y a donc une réelle possibilité que des artilects d'intelligence supérieur à celle des humains soient construits, jusqu'à ce que quelque expérience négative se produise, ou qu'une sorte de menace soit ressentie.

Il est également possible, à ce niveau, que la dépendance des humains envers ces artilects soit si grande qu'il leur soit pratiquement impossible d'arrêter de s'en servir. C'est pour cela que je soupçonne qu'une certaine crise impliquant les artilects se produira à l’occasion de leur rejet massif par une majorité des êtres humains.

Les deux scénarios ci-dessus, que j'appelle respectivement le scénario de "coexistence" et le scénario "progressif", peuvent être accompagnés d'un scénario "explosif". J'ignore complètement si nous aurons de vrais artilects de mon vivant (sans doute encore 40 ans). Nous avons donc encore tout le temps de nous laisser imprégner par le "débat sur les artilects".

Mais le danger arrivera au dernier moment, lorsqu'une certaine percée scientifique sera réalisée, et que soudainement les artilects seront là. Il est possible que le monde soit pris de cours par quelque développement quelque part dans un laboratoire de recherche, dépassant soudainement un certain seuil, et qu'à partir de ce moment-là, les êtres humains doivent partager la planète avec une espèce supérieure.

4. Conclusion

Bien évidemment je n'ai pas toutes les réponses, ni même toutes les questions concernant le "débat sur les artilects", ou le débat sur "l'espèce dominante", etc...

J'espère que ce chapitre vous aura fait réfléchir sur les conséquences d'un authentique succès artilectuel. Le potentiel d'un ordinateur pour générer de l'intelligence est massivement supérieur à celui de notre propre et piteux système nerveux. C'est pourquoi ce n'est qu'une question de temps avant que le débat sur les artilects ne s'ouvre.

Espérons que les idées présentes dans cet essai vous auront donné matière à pensée. Espérons qu'il servira de catalyseur à un bien plus ample débat. Les positions à la fois terréennes et cosmistes sont puissantes et seront défendues avec passion. Malheureusement c'est un jeu à somme nulle.

J'espère que je me trompe à propos de tout ceci, mais mon instinct me dit : "non, il y aura un vrai conflit". La question des artilects comporte toutes les conditions nécessaires pour alimenter une guerre idéologique générale, et même une guerre interstellaire.

LE NOUVEAU CLIP DE LADY GAGA "MOTHER MONSTER" : PROPAGANDE DU CULTE TRANSHUMANISTE

Voici, voilà la nouvelle vidéo de l’excentrique Lady Gaga : "Mother Monster". Le symbolisme occulte est imposant et mérite de longues minutes d’analyse...

Ce clip rituel de Lady Gaga fait la propagande du culte transhumaniste et est, ni plus ni mois : un hommage à la semence du diable!



Au début de la vidéo, après une introduction à la "Star Wars", Lady Gaga fait le récit d’un monde "alien", sous le gouvernement du Grand Bouc (Goat = Baphomet)où vit le fantastique, le merveilleux et le magique, Dans un univers insolite, où elle semble reprendre des scènes du film "Metropolis", et où elle donne vie à une double cellule (Mitosis), d’où la naissance de deux semences : la bonne et la mauvaise… (ténèbres et illumination).

Cette vidéo est indéniablement, encore une fois, une promotion occultée du mouvement transhumaniste. Ici, il est bien évident que Lady Gaga fait la propagande du posthumanisme, de l’osmose "homme/machine". Ses implants en témoignent ainsi que le thème de la génétique qui est exploité dans l’introduction.

Lady Gaga est apparemment utilisée pour promouvoir l’idéologie transhumaniste, elle initie le publique à une nouvelle éthique cosmiste, d’inspiration ésotérique, en réalisant des sortes de rituels symboliques de manière à marquer notre époque du sceaux du Nouvel Ordre à venir, ce nouvel ordre transhumaniste, prévu à l’agenda des éventuels maîtres du monde!

Il n’y a pas de hasard que la date de sortie de son nouvel album a été publiée à minuit le 1-1-2011 et que la date de son single a été annoncée pour le 11 février 2011…

Ses vidéos "Who is Alejandro" et "Bad Romance" sont aussi très explicites sur le fait que Lady Gaga est une ambassadrice des hautes loges du pouvoir.

Lady Gaga a été invitée personnellement par la Reine Élizabeth en 2009, une petite cérémonie pour authentifier son allégeance?



Source : "Conscience du Peuple"
Merci aussi à "L’Éveil 2011" qui s’est inspiré de notre blog sans en faire mention, mais qui nous a permit d’ajouter cette page qui tombe à point!

PROCHAINEMENT : LA GUERRE ENTRE "TERRANS" ET "COSMISTES"

Dans un proche futur, il y aura deux humanités distinctes, une humanité formée de deux clans, adeptes chacun d’une idéologie parvenue au statut de « religions ». Il s’agira alors de choisir dans quel camps on se battera… Car il y aura nécessairement opposition entre ces deux camps. L’humanité sera alors divisée entre « Terrans » et « Cosmiste »

LA THÉORIE CYBER-FUTURISTE D’HUGO DE GARIS
« Terrans contre Cosmistes »

La guerre de l’intelligence artificielle aura-t-elle lieu?

Pour Hugo de Garis, chercheur à l’A.T.R. de Kyoto au Japon, le cerveau artificiel sera bien plus intelligent que le nôtre. Et d’ici cinquante, à cent ans, la planète se divisera alors en deux camps : les « cosmistes », qui se réjouiront de la création de cerveaux artificiels capable de rivaliser puis de surpasser ceux des hommes; et les « terrans », qui, eux, craindront que l’on considère un jour les ordinateurs comme des êtres supérieurs…

L’opposition ne sera donc pas entre les ordinateurs et les hommes mais bien entre les hommes eux-même...

Hugo de Garis a lui-même construit un cerveau doté de 75 millions de neurones artificiels. La machine du professeur britannique a la particularité d’évoluer elle-même! Au sens darwinien du terme, bien sûr… Icic, les connexions se font toutes seules entre les neurones, comme les branches d’un arbre qui poussent.

Dernièrement, il quittait le Japon un temps, pour aller travailler au Starlab de Bruxelles où il créa un autre machine prodigieuse celle-ci pourvue de 100 millions de neurones artificiels. Son but est d’arriver à un cerveau doté de 1 milliard de neurones artificiels.

« Avec les nouveaux progrès qui ont été faits dans le domaine des nanotechnologies, nous seront bientôt capable d’imiter le cerveau biologique », explique-t-il.

« Puis ce sera ensuite l’ère de l’embryologie artificielle ! Comme un bébé qui, lorsqu’il commence sa vie avec une seule cellule, en possède 100 000 milliards neuf mois plus tard, nous saurons bientôt appliquer ce principe d’auto-assemblage d’embryogénétique aux ordinateurs… », continu de préciser le professeur de Garis…

Il faut aussi se rappeler de la déclaration choc de Kevin Warwick, célèbre chercheur dans le domaine de l’intelligence artificielle, qui avait dit ceci : « Les machines seront bientôt beaucoup plus intelligente que nous. C’est pour cela que nous devons devenir des cyborg, des hommes-ordinateurs, pour profiter de leur puissance. C’est notre seule chance, car je ne crois pas que stopper la recherche en ce sens soit réaliste. »


LE “POSTHUMANISME”

Introduction
Lors de nos dernières publications nous avons tenté de parcourir en vrac les perspectives positives et plus sombres de la transhumanisation. À travers des faits d'actualité et de veille technologique, nous avons rapidement soulevé un grief dans le concept de posthumanité…

Alors que l'on peut présenter ce phénomène comme étant un évènement auquel l'humanité doit se préparer de pied ferme en mettant en garde la population des nombreuses et éventuelles dérives, on peut aussi, comme certains, s'accaparer cette philosophie pour la fondre dans un esprit sectaire, mélange de fausses promesses mystiques et de positivisme.

Pour rappel, on considère que la posthumanité commencera réellement lorsque qu’aura lieu « l’inexorable émergence », ou la « convergence ultime » (abordée par Kurzweil) entre robotique, nanotechnologie et biotechnologie.

À ce moment, l’évolution artificielle prendra la place de l’évolution biologique, la vie "nano-électronique" aura supplanté "la vie chimique".

Certaines prédictions basées essentiellement sur la loi de Moore et ses dérivés, placent généralement les premières réussites dans ce domaine pour l’an 2020. Des gens comme le mathématicien Théodore Kaczynski (Unabomber) ont tenté de freiner les progrès en publiant le déjà-célèbre « manifeste contre la société industrielle » et en assassinant des scientifiques, particulièrement des informaticiens.

Le phénomène est non-négligeable, Bill Joy, directeur scientifique chez Sun, dont un de ses amis a perdu un œil et une partie de la main droite à cause d’un colis piégé de Kaczinsky, a été choqué en lisant le manifeste de ce dernier, il ne faisait pas, jusque là, particulièrement attention aux problèmes éthiques entourant sa discipline. Depuis il conseille de fortement limiter la recherche en ingénierie génétique et nanotechnologie, deux disciplines qui pousseront la production d'objets, de plus en plus intelligents, par autoréplication.

Petites Précisions...
Maintenant, nous allons nous concentrer sur certaines questions clés… Nous allons d’abord introduire l’inutilité des questions post humaines….

En fait, les perspectives sont trop gigantesques pour que l'on commence à se perdre dans les prédictions. Nous vous introduirons donc d’abord aux penseurs, initiateurs, promoteurs et philosophies (certains parlent déjà de nouvelles religions) du Point Omega et de la Singularité, ainsi que des prédictions amusantes de Hugo de Garis en guise d'exemple.

Pour nous humains, l’important est de savoir comment se passera la transition, la transhumanisation, trouver les idées permettant qu’elle se déroule le plus délicatement possible d’ici les 30 prochaines années. La question de savoir ce qu’il se passera après ne sera déjà plus de notre ressort, ces problèmes seront ceux des intelligences de seconde génération.

Après la singularité ?
L'intelligence et les techniques humaines arrivent à doubler les capacités de calcul des machines tous les 18 mois. Si cette maîtrise des techniques est accordée aux machines, à un "chercheur artificiel", on entre alors dans un phénomène d'emballement qui nous conduit vers une singularité de l'histoire, on arrive dans une sorte de monde où chaque génération est remplacée par une nouvelle espèce beaucoup plus intelligente, qui nous conduirait jusqu'au plus profond des limites de la physique, dans une spirale (post) exp(n)-humaine, chaque génération se trouverait confrontée à la question de son remplacement par une espèce plus intelligente, jusqu'aux limites du stockage de l'information dans notre Univers, jusqu'à la picotechnologie s'il le faut, jusqu'à la corde, il est difficilement concevable de déterminer ce qu'il pourrait se passer ensuite.

Les nanotechnologies permettraient de construire n'importe quelle molécule à partir de n'importe quel déchet, plus besoin de matières premières, plus rien n'est précieux, le capitalisme a disparu, et a laissé place à un collectivisme global, mondial et évident, contrôlé peut-être par une intelligence collective.

Donc, apparemment, le capitalisme n'était qu'un vecteur de développement rapide en vue de franchir la singularité, il était le meilleur système possible pour provoquer rapidement les progrès de la technique….

Mais on peut aussi imaginer un capitalisme, une économie liquide, basée uniquement sur l'information, qui deviendrait la nouvelle monnaie, une économie de l'esprit, dans une société de l'esprit, dans une époque que Moravec appelle le "Mind Age"?!

Une fois la victoire contre la mort assurée, il ne resterait plus qu'à s'attaquer à l'Univers, se lancer dans des macros-techniques, forger l'espace et le temps, les étoiles et les planètes et faire de l'Univers, un cerveau géant, le dieu. Dieu non pas à l'origine, mais à la fin des temps, voilà ce qu'on apelle la théorie du Point Omega, introduite par Frank Tipler. Rien ne sert vraiment de s'y attarder, elle ressemble juste à une religion inversée, si dieu n'était pas là au départ pour nous lancer, il sera au moins là pour nous accueillir, nous allons le créer, avec son intelligence suprême du futur lointain, sa mémoire et sa capacité de calcul infinie, chacun sera enfermé dans sa simulation parfaite, le bonheur total et éternel, un paradis permanent. Mais même dieu n'est pas immortel, puisque l'Univers aura aussi sa propre mort, à moins que notre pouvoir soit suffisant même pour compresser et stabiliser l'Univers entier, d'enrayer l'énergie sombre et l'extension. Éviter le froid, éviter la mort, éviter la fin des temps.

Voilà...
Dès que l'on raisonne trop loin, voilà à quoi on arrive, des suppositions plus que farfelues, nous nous contenterons donc dorénavant de ne plus entrevoir ce qui peut se passer au delà de la Singularité.

Les problèmes de l'après "transcendance", de l'après "singularité" nous sont totalement étrangers, c'est une nouvelle phase, une nouvelle ère, nous ne sommes pas du tout concernés, ce sera le travail des super-intelligences. Une chose est certaine, la Singularité aura lieu au cours du 21eme siècle, et peut nous pousser que dans 2 attracteurs : l'auto-destruction ou la transcendance.

La vie existe sans aucun doute sur plusieurs planètes dans l'Univers, les planètes qui n'ont pas subi trop de chocs climatiques, d'astéroïdes géantes, ont sans doute vu l'émergence d'une civilisation intelligente, qui a développé des techniques, la probabilité est déjà plus faible. La grande question est de savoir si une telle société a plus de chance de s'auto-détruire que d'atteindre la transcendance.

À notre humble avis, nous pensons que la probabilité d'atteindre la transcendance doit être du même ordre que celle qu'un spermatozoïde lambda arrive à s'introduire dans un ovule.

La nature est très cruelle, pour que la vie apparaisse, il faut un Univers aux lois physiques stables, se trouver dans un système solaire plus moins stable, sur une planète qui doit déjà avoir une très bonne configuration par rapport à une étoile, de là, il faut pas mal de chance pour en arriver à une civilisation, et il faut encore plus de chance pour que cette civilisation ne se désintègre pas elle-même.

Notre seul soucis en tant qu'humain est donc d'y arriver, de gagner la partie, de parvenir à passer le cap de la transcendence, histoire que nos pauvres ancêtres ne soient pas trop morts pour rien, si vous cherchez un but à votre vie, le voilà, quel que soit votre orientation professionnelle, voici la première oeuvre collective globale. Hugo de Garis vous encouragerait à choisir votre camp, dans son vocabulaire un peu particulier.

Les partisans "cosmistes" veulent voir apparaître les "artilects", individus améliorés et supérieures en tout point à leurs parents biologiques. Les "terrans" conservateurs veulent empêcher à tout prix l'apparition de ces créatures. Malheureusement, avec le système capitalisme, on ne peut pas vraiment arrêter le progrès, les "terrans" ont déjà perdu avant même qu'on leur ai vraiment donné un nom standardisé.



BOSTROM vs FUKUYAMA

Dernièrement on a pu voir une petite guerre entre Francis Fukuyama et Nick Bostrom….
Fukuyama (le même qui a décrété la fin de l'histoire après la chute de l’empire soviétique, que le dernier homme sera celui de la vision idéologique américaine, le même qui fait parti des conseillers de Bush) a parlé dans un article récent du transhumanisme comme étant les pires idées du 21eme siècle.

Bostrom, philosophe d'Oxford et fondateur de la « World Transhumanism Association » (réseau mondial d'échanges entre chercheurs, étudiants et professeurs d'université, prônant l'utilisation éthique de la technologie pour accroître les capacités humaines) dans un article de septembre 2004 (TRANSHUMANISM: THE WORLDS MOST DANGEROUS IDEA?) a répondu à ces attaques. Un humain peut-il améliorer sa durée de vie, inhiber ses émotions, se modifier, selon son propre vouloir ? Est-ce que l'on peut empêcher ça ?

Aux États-Unis, en tout cas, les bioconservateurs, généralement républicains convaincus, ont dressé un agenda visant à prendre des mesures pour empêcher tout humain d'améliorer ses capacités biologiques…

Bostrom se demande ce qu'il y a de si gênant à authoriser un individu à s'auto-modifier. Fukuyama n'a pas maché ses mots :“transhumanists are just about the last group that I’d like to see live forever”. Il estime que l'être humain, son essence originel, la couleur de sa peau, son intelligence, ses traits, sont la base même du système libéral. Les lois, la politique et l'économie, ne sont pas compatibles avec les libertés individuelles, avec l'égalité des chances. Fukuyama fait donc un raccourci assez douteux : Les idées transhumanistes mettraient en péril le système capitaliste et l'égalité des hommes. Bostrom a démoli ces arguments assez facilement, le fait d'améliorer sa mémoire, de changer d'apparence, d'augmenter sa durée de vie, de contrôler ses émotions, de se rajouter des fonctions, ne remet pas en cause les principes moraux de l'individu et donc n'empêche pas de continuer à défendre les idéaux d'égalité.

Dans cette petite guerre, personne n'a eu vraiment le soin de poser la bonne question : Est-ce que le système capitalisme est-il le meilleur pour accueillir les progrès de la transhumanisation ?

Il n'est en tout cas pas difficile d'imaginer que ces progrès technologiques ne vont en aucun cas améliorer les fractures sociales (15% de la population dispose des 4/5 du PIB mondial et cette différence s'accentue au fil du temps), en plus d'être riches, les familles aisées vivront plus longtemps et seront même plus intelligentes.

De notre côté, nous croyons que la posthumanité va accentuer les inégalités, mais on ne peut pas empêcher un humain de s'améliorer, si on veut se prétendre être en démocratie, voilà toute la problématique de la situation, le quasi-paradoxe.

Fukuyama, devenu la tête de proue de l’intelligentsia anti-technologique, a écrit aussi un livre où il fustige les progrès et conseille de vite imposer des lois pour empêcher toute dérive vers la posthumanité.

L’erreur de Fukuyama est de se concentrer beaucoup trop sur les biotechnologies, et en oublie l’informatique et la nano-technologie, qui ouvrent des perspectives bien plus grandes (la nano-technologie permettra de reconfigurer un cerveau neurone par neurone, de créer des ordinateurs surpuissants, de créer des nanos-robots anticorps en médecine, de créer des matériaux de types nouveaux...). On peut aussi raisonner comme Eliezer Yudkowsky, et se concentrer pleinement, sans se soucier des conséquences, de la convergence ultime, ou comme il l’appelle : la « Singularité ».

Faudrait-il encore y arriver à cette singularité rétorquera Jacques Blamont ! Les États-Unis, avec leur politique de puissance, ont toutes les cartes en main pour être la première nation a posséder les outils permettant de franchir le cap. L'Europe avec sa lâcheté, son manque de cohérence en matière de défense et de recherche et développement a tout l'air d'être condamnée à devenir un chiot des USA.

Blamont prédit un monde divisé en deux, l'Occident et le reste du monde, un reste du monde s'engouffrant dans la guerilla, la netwar, la fabrication illicite d'armes.

À ça, il rajoute les maladies, l'environnement défaillant. La situation mondiale actuelle est le plus mauvais nid possible pour y voir éclore une quelconque posthumanité!

L'humanité avait le choix entre se modifier et évoluer ou s'auto-détruire. Blamont nous promet l'apocalypse… La Singularité devient trou noir pour Blamont. Voilà quelque chose d'assez troublant.

PLUTÔT VERS UNE INTELLIGENCE GLOBALE?

Comme la découverte de l'anesthétisie, des vaccins, de la greffe d'organe, Bostrom nous dit que le transhumanisme est la conséquence logique et inévitable des progrès des techniques.
Toute société un tant soit peu intelligente et cultivée y est confrontée tôt ou tard. Notre système économique, en période d'instabilité et de guerre, pousse les technologies à émerger. Quand elles sont là, il est assez obligatoire de s'en servir.

Nous en arrivons là à notre dépendance aux technologies, n'avons-nous pas déjà créer un système où les machines nous dominent ?

Nous le disons d'entrée de jeu : la réponse est oui !

La loi de Gabor nous dit clairement : "Tout ce qui est possible sera nécessairement réalisé", l'individu influencé par la compétition économique, sociale régnant dans son milieu, se verra obligé de devenir un "usager" ou un "technicien" de l'objet, voir même un scientifique élaborant une théorie "pure", mais qui se verra tôt ou tard déclinée en une technologie.

L'"objet", la création humaine, a en quelque sorte, une vie propre, en dehors de la vie de chacun, on peut interpréter une vie humaine comme étant un vecteur de transmission, de développement de l'objet. L'objet survit à l'individu. L'humain a créé des activités dites artificielles (l'économie selon Herbert Simon est une activité artificielle, un système qui en s'ajustant par rapport à des paramètres internes et externes produit des comportements adaptatifs appropriés), une fois de plus, ces systèmes artificiels, ces systèmes auto-adaptatifs, survivent aux individus.

Une solution serait donc de considérer l'humain non comme un individu, mais comme faisant parti d’un "super-organisme", doté d'une "conscience supérieure"…

Le concept de technologie pourrait être ainsi considéré comme étant au centre de l'activité humaine, même l'économie est au service du progrès technologique. Le confort de chacun, l'éthique entourant l'usage de tel ou tel technique, ne serait qu'illusion, les objets se multiplient, et au final, le "super-organisme" que l'on peut appeler "humanité" continue à réaliser son dessein : peupler l'environnement de réseaux d'objets immortels. De manière générale, l'individualisme est une illusion.

Dernière grande création humaine en date, internet, sujet d'étude quasi infini. De plus en plus de scientifiques prétendent que nous sommes en pleine méta-mutation, qu'internet va devenir un super-organisme virtuel. Chaque individu apportant sa pièce à l'édifice.

Certaines agences ont essayé de maitriser "la bête", avec des projets du type d'espionnage massif "Echelon", les militaires ont compris l'importance de ce réseau qui s'étendra bientôt à tous les objets (la nouvelle norme IP permettra de donner une adresse IP à tous les objets de la Terre, de la voiture au micro-onde), et qui sera, via le téléphone portable, présent constament sur ("dans") chaque être humain. Internet tendra progressivement vers l'état d'une super-intelligence globale, une base primordiale d'un Univers, une espèce d'univers de l'information où les consciences humaines finiraient par s'accorder ; voilà qui résonne bien avec les nouvelles théories cosmologiques qui voient en l'information et la conscience les véritables briques de l'Univers matériel.

REFERENCES :

Dominique Lecourt. "Humain Post Humain". Presses Universitaires de France. 2003.
Jean-Paul Baquiast. "Conscience primaire et conscience supérieure dans les super-organismes". 2004.
Valentin F. Turchin. "The phenomenon of man : a cybernetic approach to human evolution". 1977.
Herbert A. Simon. "Les sciences de l'artificiel" (3eme édition). Folio Essais. 1996.
Jacques Blamont. "Introduction au siècle des menaces". 2004.
Theodore Kaczinsky. "Le manifeste contre la société industrielle". http://www.unabombertrial.com
Francis Fukuyama. "Our Posthuman Future: Consequences of the Biotechnology Revolution". London, Profile Books. (2002)
Eliezer S. Yudkowsky. "Scruter la Singularité". http://yudkowsky.net/singularity.html