Elle s’approche discrètement, progressivement. D’abord, nous ne la voyons pas. Puis nous la voyons foncer vers nous et pensons que nous aurons le temps de réagir, et puis, hop, qu’est-ce que c’était ?
Pour remarquer quelque chose, il faut s’arrêter et se retourner. Par exemple, se retourner sur le changement de prix de la vie humaine. C’est banal de dire que la vie est inestimable, que les gens, pour une raison ou une autre, en prennent conscience, et tout ça. En réalité, nous faisons face à une augmentation constante de la longévité active. Une personne qui perd la vie ne perd pas toute sa vie, mais seulement la partie qu’elle n’a pas vécue. Et plus il reste de temps à vivre, plus la mort est ressentie comme effrayante et désagréable.
Et, au cours des 100…150 dernières années, la vie humaine, si l’on ne cherche pas à la prendre, est devenue de plus en plus longue, et son activité de plus en plus prolongée. De plus, le taux de mortalité infantile a diminué de manière significative et qualitative. Quelles en sont les conséquences ? Une augmentation de la valeur de la vie humaine et une légitimité accrue des mesures de protection qui étaient auparavant absurdes ou inappropriées.
Voici qui parmi vous peut imaginer des garçons à vélo avec des casques et des gilets de protection ? Cela dépend du pays. Dans les pays où les gens vivent plus longtemps et où les enfants atteignent l’âge adulte plus souvent, c’est une chose courante. Maintenant, au 21e siècle. Mais pas il y a 30 ans. Et les ceintures de sécurité, et les airbags, et les sièges pour enfants ? Toute cette expansion progressive des outils de sauvetage, que nous avons observée ces dernières années, n’est rien d’autre qu’une réaction des gens à la valeur accrue de leurs jours encore non vécus. Des défibrillateurs à côté des extincteurs sur les murs dans les lieux publics, des systèmes de vidéosurveillance, des vêtements de protection pour des professions qui ne sont pas considérées comme dangereuses, des ralentisseurs – tout cela est apparu autour de nous ces 20 dernières années et nous n’avons même pas remarqué comment cela s’est produit.
Et ensuite, ce sera encore plus intéressant. Non, il est peu probable qu’on invente une « pilule d’immortalité ». On apprendra simplement à résoudre progressivement ou à éviter problème après problème. Diabète ? Cancer ? Maladies cardiovasculaires ? Un foie toujours en bonne santé ? Des organes internes fiables ou remplaçables ? C’est cher ? Il y a l’assurance. Les gens ne réaliseront même pas qu’ils commenceront à vivre pratiquement éternellement. Et cela entraînera une augmentation naturelle du coût des jours non vécus jusqu’à l’infini.
Et les gens vont simplement cesser de vivre aussi paisiblement et insouciamment que nous le faisons maintenant. Que diriez-vous d’interdire les ascenseurs, puisque l’ascenseur peut tomber avec une probabilité d’un sur un million ? Et que se passe-t-il si on a soudainement peur de sortir, car avec une probabilité d’un sur un million, un piano peut tomber sur notre tête ? Et si l’on multiplie un millionième par l’infini, cela donne… toujours l’infini. Voilà, la singularité, et nous n’avons déjà plus de temps pour réagir, car nous ne nous sommes même pas tournés vers ce qui s’approche de nous.
Ainsi, pour continuer à vivre, l’humanité devra inventer quelque chose qui réduit considérablement la valeur de la vie humaine. D’une manière ou d’une autre, cela ressemble déjà à une sombre dystopie. Et nous devrions nous préparer à une solution typique, « à la manière de la singularité ». Prenons par exemple les vidéophones. On en parlait, ils étaient montrés dans des films de science-fiction, des ingénieurs développaient des solutions, des entreprises présentaient leurs modèles lors d’expositions. Des cabines vidéo sont même apparues dans les bureaux de poste, les opérateurs ont commencé à imaginer des tarifs pour ce service de communication « exclusif »… Et puis, boum, Skype, pour tout le monde. Gratuit. De n’importe quel endroit du monde. Même sur un petit écran dans la poche, assis dans un bus.
Si l’on réfléchit aux options, la solution la plus prometteuse semble être une forme de numérisation de la conscience et l’organisation de sa sauvegarde. Tu as perdu ton corps ? On charge une copie de toi dans un nouveau clone et tu fonctionnes à nouveau, d’ailleurs, en étant rajeuni et revigoré. L’assurance couvrira les frais. Ce n’est pas encore une dystopie, n’est-ce pas ? Et que dire du fait que l’accès à cette technologie résoudra de nombreux problèmes, allant de la préparation des soldats – il suffit de former un combattant génial et ensuite de le copier autant de fois que nécessaire – à l’apprentissage automatique de tout ce qui doit l’être. Le professionnalisme ? Ha ! L’expérience ? Ha ! Attends, je vais télécharger ça sur des torrents. Et même si, pour toi-même, tu restes infiniment précieux, pour la société, ce n’est déjà plus le cas. Tu n’es pas simplement remplaçable. On peut toujours te remplacer par un modèle meilleur, et dans la plupart des tâches liées, par exemple, au travail de bureau, un tel modèle n’a même pas besoin d’un corps. Qu’il gagne sa vie en étant à l’intérieur d’un ordinateur, en écrivant des e-mails et des présentations pour des rapports d’entreprise. Et pour le travail en dehors du bureau, il y aura toujours un avatar androïde approprié, qui n’a pas besoin de nourriture, de vêtements ou de sexe. Et oui, dont le coût est bien inférieur à celui de l’élevage d’un être vivant. Avoir des enfants ? Pour qui et pour quoi, et tout le monde pourra-t-il trouver une place pour les enfants dans un monde où des spécialistes parfaitement idéaux occupent déjà éternellement les postes, souvent pas tout à fait ou déjà complètement pas des humains ?
À propos de l’intelligence artificielle. Elle s’approche de la même manière. Et nous ne réaliserons même pas ce qui s’est passé. Tout a commencé avec « Siri » et « Ok Google ». Mais, progressivement, l’IA s’installera sur nos ordinateurs portables, déjà fatigués. Au début, elle sera occupée par des tâches routinières. Nous l’apprendrons à gérer notre correspondance professionnelle. En fait, progressivement, avec de tels robots. Nous l’apprendrons à sélectionner pour nous des informations intéressantes. Ensuite, nous l’apprendrons à accomplir des tâches plus abstraites, mais toujours routinières. Puis, les comptables, en langage humain, pourront expliquer à l’IA dans l’ordinateur ce qu’il faut chercher et comment équilibrer les comptes. Ensuite, le premier manager qui décidera de partir en vacances laissera à sa place « ce gars-là », qui est toujours branché. Puis nous lui confierons la planification de nos loisirs. Ensuite, la résolution de problèmes pratiques. D’abord, les ménagères apprécieront les capacités de l’IA à proposer des recettes en fonction des ingrédients disponibles, les médecins feront confiance à l’IA pour le diagnostic et le traitement des maladies, et les ingénieurs cesseront de se creuser la tête sur un problème et diront « Ok Google, j’ai besoin d’une solution pour le confinement du plasma dans un réacteur thermonucléaire ». L’IA gérera nos loisirs, notre carrière, nos finances. L’IA, assise dans l’ordinateur, agissant au nom et pour le compte de son propriétaire, signera des documents, créera des entreprises, distribuera des tâches et formulera des missions à d’autres personnes et machines.
Si jamais un jeune homme, lassé de la pornographie 3D réaliste, demandait à son ordinateur portable de résoudre le problème de la création d’un androïde humanoïde crédible, l’IA, par exemple, en évaluant les ressources à sa disposition, déciderait de chercher dans le monde des camarades de pensée, créerait et enregistrerait avec eux une nouvelle société par actions « U.S. Robotics and Mechanical Man Corporation », embaucherait du personnel et formulerait des tâches, tout en restant pendant ce temps un simple programme très intelligent, mais néanmoins une application sur un ordinateur. Le jeune homme, en accord avec les plans de son ordinateur portable, recevrait dans un an sa Jessica infaillible et expérimentée, et si parmi les fondateurs-actionnaires se trouvait une fille, elle obtiendrait un Dmitri fiable et raffiné, qui, possédant un cerveau pas moins performant que celui des ordinateurs de leurs propriétaires, pourraient… remplacer ces propriétaires.
Voici deux scénarios d’intrusion tout à fait logiques. Il est peu probable que nous ayons le temps d’évaluer les conséquences morales des changements à venir. Il est peu probable que nous puissions ou voulions nous y préparer. Mais ces deux scénarios, tout à fait logiques, nous mènent tous deux à une même conclusion, où il n’y a pas de place pour les humains sur Terre. Sera-ce une tragédie ? Probablement pas. Par exemple, la population européenne s’habitue progressivement à l’idée que la société ne peut plus vivre sans un flux constant et, ce qui est important, en constante augmentation d’immigrants. Et les Européens de souche, pour la plupart, perçoivent déjà cela comme un phénomène normal. Dans les écoles, il y a de moins en moins d’enfants dont les parents sont nés dans ce pays. Dans les rues, on voit de plus en plus de vêtements non traditionnels, mais déjà devenus courants. Sur les emballages alimentaires, des inscriptions apparaissent en langues étrangères, et au parlement et dans le cabinet des ministres, on voit de plus en plus de personnes qui ont passé des examens de langue nationale alors qu’elles étaient déjà bien adultes. Cela aurait pu sembler une tragédie il y a 100 ans. Mais aujourd’hui, cela devient progressivement la norme. Il en va de même pour l’IA. Tragédie ? Le dernier être humain vivant ne le percevra pas de cette manière.