Bài báo mới của Nick Bostrom: > Phát triển siêu trí tuệ không giống như chơi roulette Nga; nó giống như trải qua một ca phẫu thuật rủi ro cho một tình trạng mà nếu không sẽ dẫn đến cái chết. > Một người cũng có thể khẳng định rằng nếu không ai xây dựng nó, mọi người sẽ chết. Thực tế, hầu hết mọi người đã chết. Phần còn lại trong chúng ta đang trên con đường theo sau trong vài thập kỷ ngắn ngủi. Đối với nhiều cá nhân—như người già và những người bệnh nặng—cái kết gần kề hơn nhiều. Một phần của lời hứa về siêu trí tuệ là nó có thể thay đổi căn bệnh này một cách cơ bản." > Dọc theo một con đường (không phát triển siêu trí tuệ), 170.000 người chết mỗi ngày vì bệnh tật, lão hóa và những bi kịch khác. > Lựa chọn trước mắt chúng ta, do đó, không phải là giữa một cơ sở không rủi ro và một dự án AI rủi ro. Nó là giữa những quỹ đạo rủi ro khác nhau, mỗi quỹ đạo phơi bày chúng ta trước một tập hợp các mối nguy hiểm khác nhau. > Hãy tưởng tượng chữa bệnh Alzheimer bằng cách tái tạo các tế bào thần kinh đã mất trong não của bệnh nhân. Hãy tưởng tượng điều trị ung thư bằng các liệu pháp nhắm mục tiêu loại bỏ mọi tế bào khối u nhưng không gây ra bất kỳ tác dụng phụ khủng khiếp nào của hóa trị liệu ngày nay. Hãy tưởng tượng phục hồi các khớp đau và động mạch bị tắc về trạng thái trẻ trung nguyên sơ. Những kịch bản này trở nên thực tế và cấp bách với siêu trí tuệ dẫn dắt khoa học của chúng ta. > Chúng tôi giả định rằng y học trẻ hóa có thể giảm tỷ lệ tử vong xuống mức ổn định tương tự như mức mà những người khỏe mạnh 20 tuổi ở các nước phát triển hiện đang tận hưởng, tương ứng với tuổi thọ khoảng 1.400 năm. > Phát triển siêu trí tuệ làm tăng tuổi thọ còn lại của chúng ta với điều kiện rằng xác suất bị tiêu diệt do AI thấp hơn 97%.