p(doom), une fausse question ?

Avec les développements récents et rapides de l’intelligence artificielle de bas niveau, les usuelles discussions ressurgissent : l’IA causera-t-elle la fin de l’humanité ?

Mon père me racontait quand j’étais petit qu’à l’époque des recherches nucléaires, l’ensemble de la communauté scientifique et technologique discutait à l’époque du risque de réaction en chaîne.

A chaque génération, à chaque grande évolution, ses craintes de fin du monde. Probablement salutaires, mécanisme de sûreté.

Tout aussi probablement des craintes miroirs : imaginer une GAI, c’est imaginer l’apparition d’êtres conscients. Et comme l’essentiel des premiers romans sur les robots, comme l’essentiel des premiers écrits sur les extraterrestres, nous voyons une forme de projection du comportement humain tel que notre espèce l’a toujours eue, de la part d’une forme de vie tierce.

Et nous craignons donc domination, destruction, éradication. Possiblement car il s’agit de la réaction la plus probable que nous aurions en tant qu’espèce.

Et donc nous nous retrouvons aujourd’hui avec de multiples prophètes du p(doom), la probabilité que l’IA représente un risque existentiel pour notre espèce.

Avec des notations moyennes entre 10% et 90%. Et de nombreuses analyses sur le pourquoi du comment.

En lisant l’un de ces articles, je me suis rappelé un article que j’avais lu pendant le début du confinement de 2020, et dont l’auteur avait à mes yeux très intelligemment recentré le débat en affirmant que les mesures adoptées ne pouvaient pas sauver de vies.

L’idée en effet de sauver une vie est de l’empêcher de disparaître. Mais formulé ainsi, cela revient à oublier que nous sommes des êtres mortels, par nature. Et que nos vies finiront toutes par disparaître.

Les mesures adoptées lors de la crise pandémique n’avaient donc pas pour objet de sauver des vies, mais de prolonger certaines vies. Celles qui auraient pu être raccourcies par l’effet de la maladie, sous réserve de la contracter, d’en ressentir les effets, etc.

A cet objectif premier doit, par rigueur, être ajouté l’objectif de préservation du confort de nos vies : vivre malade est moins agréable en fonction de l’ampleur, de la nature et de la sévérité des symptômes encourus. Mais cet objectif présente une portée considérablement plus faible.

Afin de déterminer la pertinence et l’adéquation des mesures adoptées à la crise rencontrées, il convenait donc de formuler correctement la question : il ne fallait pas demander combien de vie seraient sauvées en privant une grande partie de la population de libertés pendant des périodes de temps conséquentes. Mais il convenait de demander s’il y avait une correcte adéquation entre la durée du prolongement de vie obtenu d’une part, et le fait de réduire à peau de chagrin la réalité de la vie pendant une durée d’autre part, ce qui peut-être assimilé à une réduction de la vie effective pendant la période correspondante.

En pondérant avec la qualité de vie effective des populations concernées :

• Prolongement concernant essentiellement des personnes âgées, ayant pour certaines dépassé l’espérance de vie moyenne, et dont les activités et interactions sont limitées, tant pour leur bénéfice individuel que pour le bénéfice de la société ;

• D’autre part, réduction concernant l’ensemble de la population, et impactant donc les jeunes générations actives, qui atteindront l’espérance de vie moyenne, dont les interactions sont beaucoup plus nombreuses et importantes, pour leur bénéfice personnel autant que pour le bénéfice de la société.

Formulé ainsi, l’ampleur des mesures de protection contre la pandémie peut sembler complètement démesurée.

Transposons cette logique à l’analyse de la question de p(doom) : nous le savons, notre espèce disparaîtra un jour. Soit pour évoluer vers une nouvelle espèce. Soit pour s’éteindre. Soit par l’atteinte de l’entropie maximale.

La durée de l’espèce va d’une seconde après l’écriture de ces mots, jusqu’au temps nécessaire à atteindre l’entropie maximale. Quant à ce qui se passera après, je vous laisse relire l’une de mes nouvelles préférées d’Isaac Asimov The Last Question.

La question derrière p(doom) ne peut donc pas être « l’IA va-t-elle détruire l’humanité », mais plutôt « le recours à l’IA présente-t-il une probabilité de gain net ou de perte nette de durée de vie de l’espèce ? ».

Et de cette formulation, nous devons en tirer les questions complémentaires :

• Quelle est la définition de l’espèce ?

• Dans l’hypothèse d’une probabilité supérieure de perte nette que de gain net, cela sera-t-il au profit de l’évolution en une nouvelle espèce ?

• Dans cette hypothèse, comment nous positionnons-nous sur l’apparition de ladite nouvelle espèce ?

• Doit-on faire rentrer dans ce calcul de probabilité la question de la qualité de vie de l’espèce, et comment devons-nous définir cette qualité et ses bornes ?

J’insiste particulièrement sur cette dernière question, car l’étude de la probabilité d’une faible perte nette de durée de vie de l’espèce par le recours à l’IA, présentant une augmentation significative de la qualité de vie de l’espèce sur la durée, peut finalement apparaître préférable à l’hypothèse d’un gain net même important de durée de vie de l’espèce en contrepartie d’une dégradation majeure si ce n’est totale de sa qualité de vie.

La prochaine fois que vous verrez un ami manger un chocolat de plus, allumer une cigarette, boire une bière, ou rester sur son canapé plutôt que de faire du sport, posez lui la question de savoir comment il se positionne : préfère-t-il une vie très longue, mais au détriment de tout le plaisir de vivre ? Une vie très courte, profitant de chaque instant et sans regard pour les conséquences ?

Je n’ai jusqu’à présent rencontré que très peu de personnes qui acceptent de prendre un positionnement clair sur cette question, et beaucoup de gens préfèrent y mêler des concepts moraux voire religieux pour éviter d’avoir à l’approfondir.

Et si, finalement, la question de savoir si nous préférons boire cette dernière bière était plus importante que celle de savoir précisément quel pourcentage de notre durée de vie cette bière est susceptible d’affecter ?

Cet article constitue une opinion personnelle de son auteur, dont la compréhension peut nécessiter des notions préalables dans le sujet évoqué. Il constitue une réponse à un article originel du chroniqueur Azeem Azhar dont je vous invite à découvrir les opinions sur son site https://www.azeemazhar.com/