Makalah baru Nick Bostrom: >Mengembangkan kecerdasan super tidak seperti bermain roulette Rusia; Ini lebih seperti menjalani operasi berisiko untuk kondisi yang akan terbukti fatal. > Seseorang dapat sama-sama berpendapat bahwa jika tidak ada yang membangunnya, semua orang mati. Faktanya, kebanyakan orang sudah mati. Kita semua berada di jalur untuk mengikuti dalam beberapa dekade yang singkat. Bagi banyak orang—seperti orang tua dan orang yang sakit parah—akhir itu jauh lebih dekat. Bagian dari janji kecerdasan super adalah bahwa itu mungkin secara mendasar mengubah kondisi ini." >Di sepanjang satu jalan (meninggalkan kecerdasan super), 170.000 orang meninggal setiap hari karena penyakit, penuaan, dan tragedi lainnya. >Oleh karena itu, pilihan di hadapan kita bukanlah antara baseline bebas risiko dan usaha AI yang berisiko. Ini adalah antara lintasan berisiko yang berbeda, masing-masing mengekspos kita pada serangkaian bahaya yang berbeda. >Bayangkan menyembuhkan penyakit Alzheimer dengan menumbuhkan kembali neuron yang hilang di otak pasien. Bayangkan mengobati kanker dengan terapi yang ditargetkan yang menghilangkan setiap sel tumor tetapi tidak menyebabkan efek samping yang mengerikan dari kemoterapi saat ini. Bayangkan memulihkan sendi yang sakit dan arteri yang tersumbat ke kondisi awet muda yang murni. Skenario ini menjadi realistis dan segera terjadi dengan kecerdasan super yang memandu ilmu pengetahuan kita. >Kami berasumsi bahwa obat peremajaan dapat mengurangi tingkat kematian ke tingkat konstan yang serupa dengan yang saat ini dinikmati oleh anak berusia 20 tahun yang sehat di negara maju, yang sesuai dengan harapan hidup sekitar 1.400 tahun. >Mengembangkan kecerdasan super meningkatkan harapan hidup kita yang tersisa asalkan probabilitas pemusnahan yang diinduksi AI di bawah 97%.