Le nouvel article de Nick Bostrom : >Développer une superintelligence n'est pas comme jouer à la roulette russe ; c'est plutôt comme subir une chirurgie risquée pour une condition qui, autrement, s'avérera fatale. > On pourrait également soutenir que si personne ne la construit, tout le monde meurt. En fait, la plupart des gens sont déjà morts. Le reste d'entre nous est en route pour suivre dans quelques décennies. Pour de nombreuses personnes—comme les personnes âgées et les gravement malades—la fin est beaucoup plus proche. Une partie de la promesse de la superintelligence est qu'elle pourrait changer fondamentalement cette condition." >Sur un chemin (renonçant à la superintelligence), 170 000 personnes meurent chaque jour de maladies, de vieillissement et d'autres tragédies. >Le choix qui s'offre à nous, par conséquent, n'est pas entre une base sans risque et une aventure IA risquée. C'est entre différentes trajectoires risquées, chacune nous exposant à un ensemble différent de dangers. >Imaginez guérir la maladie d'Alzheimer en régénérant les neurones perdus dans le cerveau du patient. Imaginez traiter le cancer avec des thérapies ciblées qui éliminent chaque cellule tumorale mais ne causent aucun des horribles effets secondaires de la chimiothérapie d'aujourd'hui. Imaginez restaurer des articulations malades et des artères obstruées à un état juvénile pristine. Ces scénarios deviennent réalistes et imminents avec la superintelligence guidant notre science. >Nous supposons que la médecine de rajeunissement pourrait réduire les taux de mortalité à un niveau constant similaire à celui actuellement apprécié par des jeunes de 20 ans en bonne santé dans les pays développés, ce qui correspond à une espérance de vie d'environ 1 400 ans. >Développer une superintelligence augmente notre espérance de vie restante à condition que la probabilité d'annihilation induite par l'IA soit inférieure à 97%.